V roce 854 byl Ulm poprvé písemně zmíněn jako královské sídlo. Středověké panstvo navštěvovalo Ulm pravidelně; Fridrich Barbarossa přijel na pobyt do Ulmu třináctkrát. Položení základního kamene Münsteru následovalo roku 1377. Dne 26. března 1397 starosta, rada a měšťané ztvrdili svými podpisy tzv. „velkou přísahu“. Ta stvrzovala zvýšený podíl cechů oproti patricijům v malé a velké radě Ulmu. Šlechta byla na základě tohoto dokumentu v menšině a nerozhodovala už víc sama. Krok k demokracii byl ale přece jen podmíněn; odrážel pozdně středověké poměry a zahrnoval do politického života pouze „právoplatné měšťany“, tehdy pouze asi 10-15% obyvatel Ulmu. Na Kostnickém koncilu byli starosta a radní jmenováni smírčími soudci. Hospodářsky si Ulm vedl ve 14. a 15. století velmi dobře a patřil už na konci 14. století k velkým městům Říše. Tomuto rozvoji nahrávala také poloha města na důležitých obchodních stezkách z Horní Itálie na jih Německa. Dne 30. června 1377 byl položen základní kámen nového farního kostela, ulmského Münsteru. Ten se nachází uvnitř okrouhlých hradeb a odděluje starý kostel, který stojí před Ženskou branou (Frauentor). Teprve v roce 1494, po 117 letech, mohla být stavba Münsteru prohlášena za dokončenou. Věž gotického Münsteru je se svojí výškou 161,53 metrů nejvyšší kostelní věží světa. V roce 1530 odsouhlasili měšťané Ulmu zavedení reformace. V roce 1944 bylo město válkou silně poničeno. V roce 1980 se Ulm se svými 100 000 obyvateli stal velkoměstem. Naproti městu, na jižním břehu Dunaje, leží bavorské sesterské město Nový Ulm.
Z Giengu na řece Brenz přicházející Jan Hus vešel do Ulmu jednou ze severních bran. Z 30.10 na 31.10.1414 měl přenocovat v knížecím hostinci „Fürstengasthof“. Hostinec stojí dodnes pod názvem „Koruna“ v ulici Kronengasse č. 4 a patří k nejstarším hostincům města. Je ale také možné, že Jan Hus přijel do Ulmu už 28.10.1414. Hospoda nesla – ne neprávem – název „Knížecí hostinec“. Zde přenocoval už také císař Ruprecht, císař Zikmund a císař Maxmilián I., stejně jako arcibiskup z Mainzu, Trieru a Kolína (zdroj: městský archiv města Ulm).