Magyarország területén i. e. 300 körül telepedtek le a kelta törzsek. Régészeti leletek alapján a szőnyi városrész területén ők hozták létre az első lakóházakat. Az 1. században ugyanezen a helyen feküdt Brigetio, Pannonia provincia legjelentősebb katonai tábora, kikötője és polgárvárosa. Mindemellett a település a római Birodalmat körbevevő limes része is volt. Brigetio jelentőségét mutatja, hogy állandó jelleggel itt állomásozott a Legio I Adiutrix tartalékos római légió. A város emellett saját fürdőkomplexummal és amfiteátrummal is büszkélkedhetett.

A honfoglalást követően Komárom környéke Ketel vezér birtokába került. Az ő leszármazottai emelték az első erődítményt, földvárat a Duna és Vág közti területen. Ebből az időből ered a város mai neve is, habár eredete nem tisztázott. A 11. században a mai Csillagerőd területén jött létre Rév Komárom, egy picinyke település, melynek lakói a rév körüli teendőket látták el. Ők biztosították a Dunán való átjutást a komáromi várba, illetve feleltek a biztonságos átkelésért. A középkori város az ekkor létrejött Komárom vármegye központja lett,  IV. Béla 1265. április 1-jén városi jogokat adományozott a városnak.

A 16. századi török hódoltság idején Komárom végvár volt, Buda eleste után Bécs védelmének biztosítása érdekében kezdődött meg a komáromi erődrendszer kiépítése. Mivel észak és dél között ekkor még csak hajóval lehetett közlekedni, Pálffy Miklós várkapitány 1589-ben hajóhidat, az átkelés védelmére pedig egy-egy cölöp hídfőerődöt építtetett. Ez lett a Szent Péter palánk (a mai Csillagerőd elődje). A megerősített Öregvár ostromára végül 1594-ben került sor, és bár a törökök elpusztították Rév Komáromot, maga az ostrom sikertelen volt. Ezt követően eredeti helyétől körülbelül 1 kilométerre nyugatra, a mai Erzsébet híd helyén lévő hajóhídnál épült újjá Rév Komárom, immár Szőny település részeként.

A város és az erődök azonban súlyosan megrongálódtak az 1682-es árvízben. Mivel utóbbiak jelentősége a török kiűzésével lecsökkent, a Rákóczi-szabadságharc 1711-es leverése után felszámolásuk is felmerült. 1763-ban igen erős földrengés érte Komáromot, amely mind a mai napig a legerősebb mért földmozgás Magyarország területén. A nagyobb földmozgások ezután hozzávetőleg húsz évente, egyre csökkenve ismétlődtek (1783, 1806, 1822, 1851), míg végül az aktivitás megszűnt.

A napóleoni háborúk miatt menekülni kényszerülő I. Ferenc magyar király 1827-1838 között rendelte el a komáromi erődök megerősítését, felújítását valamint két új jobb parti erőd építését a koppánymonostori Homokhegyen (Monostori erőd), illetve a Nagyigmánd felé vezető út mellett (Igmándi erőd). Az építkezéseket az 1848–49-es szabadságharc szakította meg. Végül a komáromi vár volt az utolsó magyar terület, amely megadta magát az osztrák seregeknek: Klapka György 1849. október 2-án tette le a fegyvert Haynau előtt, teljes amnesztiát nyerve a csapatai számára.

Az erőd építkezéseinek folytatása 1850 és 1878 között megélénkítette a község életét. Az 1870-es években merült fel egy állandó híd szükségessége, de az Erzsébet híd átadása végül csak 1892-ben történt meg. Az északi Komárom és a déli Új Szőny egyesülése 1896. július 1-jén lépett hatályba, ám az első világháborúig nem fejlődött sokat. Trianon után az észak-komáromi városrész Komárno néven a Csehszlovák Köztársaság része lett, a déli pedig Komárom néven egészen 1923-ig a csonka Komárom vármegye székhelye lett. 

A második világháború alatt több bombatámadás érte Komáromot, elsősorban az Olajipari vállalat, és a vasút, illetve a hidak megsemmisítése céljából. A második világháború után az északi városrész újra Csehszlovákiához került, a déli pedig ismét az önálló fejlődés útjára lépett. A magyar erődökben a szovjet déli hadseregcsoport rendezkedett be, és alakított ki fegyver- és lőszerraktárat.

Komárom a járások 1983-as megszűnéséig volt járási székhely, majd néhány évtized kihagyás után, a rendszer 2013-as újjáélesztése óta ismét a Komáromi járás székhelye. A várost 2002-ben, 2006-ban és 2013-ban is árvíz fenyegette, amely miatt korlátozni kellett a vasúti forgalmat. Ennek megelőzésére új gátrendszert építettek a Duna Komárom és Almásfüzitő közötti szakaszán.