Mindössze a Lánchíd kapcsolta össze Budát és Pestet az 1800-as évek második felében, tehát akkoriban az áru- és a személyforgalom Széchenyi egyik fő művén áthaladva zajlott. Értelemszerűen egy idő után nem bírta el a város, hogy a Lánchíd mellett csak hajók kötik össze a két partot, ezért az országgyűlés 1870-ben elrendelte a második átkelő megépítését.
Mielőtt az első kapavágást megejtették volna, el kellett simítani egy jogi bukkanót, ugyanis egy törvénycikk értelmében 90 évig nem lehetett a Lánchídtól 1-1 magyar mérföldön (ami kb. 8 km) belül másikat építeni.
A vitás kérdések tisztázása után 43 pályamű érkezett a kiírt tervpályázatra. Az 1000 tízfrankos arannyal jutalmazott Ernest Gouin lett a nyertes; a francia mérnök elképzelései és irányítása alapján kezdték meg az építkezést 1872 augusztusában, hogy Pest északi részének fejlődése érekében átkelőhely létesülhessen, amely összeköti Budát a Margit körúttal. A viszonylag rövid határidő miatt gyorsan haladtak a francia felügyelet mellett végzett munkálatok, a főként Franciaországból hozott alapanyagokból már a következő év őszére befejezték az alapozást.
Az eredeti tervekkel ellentétben szélesebbnek épített hidat a teherforgalmi próbákat követően 1876. április 30-án, 12 órakor adták át a nagyközönségnek. Az ünnepségen megjelentek a korszak vezető politikusai, úgymint József főherceg, PéchyTamás közmunka- és közlekedésügyi miniszter, Perczel Béla igazságügy-miniszter, TrefortÁgoston kultuszminiszter vagy Ráth Károly főpolgármester. Utóbbi az új híd majdani kereskedelmi fontosságát emelte ki megnyitóbeszédében, a tudósítások pedig láthatóan francia ízléssel megálmodott, gyönyörű átkelőnek tartották.
A Gyulai Pál író javaslatára Margit névre keresztelt, középen 30 fokban megtört híd 607 méter hosszú és 17 méter széles lett, vasszerkezete 5012 tonnát nyomott, a teljes beruházás 5 051 000 forintba került. A hidat a pilléreken és a hídfőkön elhelyezett négy-négy díszes kandeláber világította meg, griffmadarak tartották a lámpakereteket, az oszlopfőket a magyar korona díszítette.
Az első évek izgalmai közül 1879-et érdemes megemlíteni, amikor először haladt át a hídon lóvasút (méghozzá úgy, hogy sötétedés után a kocsik előtt egy harmadik ló is baktatott, melynek hátáról egy gyerek petróleumlámpával világította meg az utat), a villamosra 1896-ig kellett várni. A századfordulón készült el a Margit-szigetre vezető szárnyhíd a Magyar Királyi Államvasutak Gépgyára kivitelezésében, addig csak csónakkal lehetett megközelíteni a szigetet.
A hídpálya túlterhelésének következtében hamar jelentkeztek az első problémák. A fakocka burkolat annyira elhasználódott, hogy nem lehetett tovább halogatni a kijavítását. Az I. világháború idején azonban ilyen anyagot lehetetlen volt beszerezni, ezért átmeneti jelleggel a Lánchíd fakocka burkolatának felbontásából származó anyaggal javították ki az utat, ami 1920-ra járhatatlanná vált. Sokáig ez sem bírta, ezért felbontották a burkolatot, és helyébe kőkocka alapot helyeztek. A kőburkolat és az időközben megindult buszközlekedés miatt tovább nőtt a terhelés, ami újabb felújításhoz vezetett. 1937-re a meglévő főtartók mellé még további kettőt építettek, meghosszabbították a pilléreket, kiszélesítették a hidat, középre helyezték a villamossíneket és megépült az aluljáró is. Az átépítés költsége 5 millió pengőre rúgott, ez az eredeti ráfordítás felét jelentette.
Mint a legtöbb budapesti ikonikus építmény, így a Margit híd sem úszta meg a második világháborút súlyos rombolás nélkül – igaz, egy véletlen baleset tette tönkre. Történt, hogy az aláaknázott hídon 1944. november 4-én déli 12 órakor, vagyis a legnagyobb forgalom idején váratlanul felrobbantak a robbanótöltetek. A pesti oldalhoz közeli három nyílás a hídon közlekedő gyalogosokkal, villamosokkal és gépkocsikkal együtt a Dunába zuhant, a szerencsétlenségben száznál többen vesztették életüket. A detonáció oka a hídon átmenő hibás gázvezetékből kiáramló gáz lángra lobbanása volt, ami vélhetően egy égő cigaretta miatt gyulladhatott meg. Azért a visszavonuló német csapatok 1945. január 18-án – immáron tudatosan – felrobbantották az épségben megmaradt budai részeket is. A hídból csupán a pillérek élték túl a pusztítást.
Átmeneti megoldásként kábelhíd épült a helyén, később a szovjet hadsereg cölöphidat húzott fel, hogy kapcsolatot teremtsen a Margit-szigettel a Sziget utca és a Lukács fürdő között, ám az építmény az 1946-os jégzajlás következtében megsemmisült. Ezt a Manci névre keresztelt ideiglenes pontonhíd követte, amely a Margit híd hivatalos újjáépítéséig (1948 nyara) szolgálta ki a forgalmat.
Széchy Károly felügyelete mellett a Ganz gyár elképzelései szerint történt meg az átkelő újrahúzása: az eredetivel egyező megjelenésű, 25 méter széles, könnyebb, de nagyobb teherbírású acélhidat építettek hat főtartóval, vámházak nélkül.
A hidakat 25-30 évente fel kell újítani, így a hetvenes években újra „nekimentek”. Az évtized elején kialakították a budai hídfő csarnokát, amikor a Batthyánytérig vezették a HÉV vonalát. 1978-ban Magyarországon elsőként hőálló szigetelést raktak a közúti pálya alá, továbbá átépítették a két parti nyílás vasszerkezetét, valamint korszerű korrózióvédelmet és szigetelést kapott a híd, az útburkolat pedig kocka helyett aszfaltot.
Újabb 30 év elteltével 2009 augusztusában lezárták a hidat a gépjárműforgalom elől, hogy megkezdődhessen a rekonstrukció: a 20 milliárdos forintos beruházásból többek között felújították az úttestet, a vágányokat, kicserélték a pálya- és a hídszerkezet elemeit, kiszélesítették a hidat, ami új korlátokat és kivilágítást kapott, megszüntették az aluljárót. Kiépült a kerékpárút és a kerékpáros-alagút létesült, a műemléki jelleg helyreállításával a 2011. december 20-án átadott Margit híd visszanyerte eredeti szépségét.