Ahol ma a tér áll, ott egykor a Pest városát körbeölelő városfal állt. A Kecskeméti kapu előtt – ami az azonos nevű utca déli végénél magasodott – vásárokat tartottak. Amikor 1808-ban a városfal utolsó darabját is elbontották, megszülettek a tér keretei. Mivel az Alföld irányából erre vezettek az utak, ez a folyamat csak felgyorsult, és a tér jelentősége egyre csak nőtt. Ekkoriban (1816–1830 között) épült meg a református templom is, melynek helyén korábban temető volt.
Nemcsak a templom épült meg itt, hanem az 1800-as évek második felében a jelentősebb épületek is. A tér már a nevében sem utalt arra, hogy itt egykor piac működött, és bár voltak még árusok a területen, az utolsó évtizedre részben parkosították. Eközben a városi közlekedésnek is az egyik fontos csomópontja volt – persze ne a mostani forgalomban gondolkodjunk –, például itt volt az Újpestre közlekedő lóvasút végállomása.
A tér arculata a II. világháború során, elsősorban az 1944–45-ös harcok idején változott sokat. Több, addig jelentősnek számító épület gyakorlatilag a földdel lett egyenlő, és az Ybl Miklós tervei alapján 1883-ban felépült Danubius-kút is megsemmisült. A háború utáni újjáépítés során a parkosítás eltűnt el a térről, és egyre inkább a városi (tömeg)közlekedés fontos bázisává vált a Kálvin.
A Kálvin tér az 1956-os forradalom idején fontos szerepet játszott. Egyfelől a közeli Bródy Sándor utcában zajlott október 23-án a Magyar Rádió ostroma, majd a következő napokban komolyabb ágyúzás volt, és tankcsata.
Az 1970-es évek közepéig viszonylagos nyugalom uralkodott a téren, majd előbb 1973-ban megépült az aluljáró, egy évvel később pedig hozzáfogtak a 3-as metró Kálvin téri állomásának megépítéséhez. Aztán a rendszerváltás környékén felépült a Korona Hotel, majd 2010-ben jött egy újabb jelentős átalakítás, ami azt tűzte ki célul, hogy visszakapja régi, parkos jellegét a tér. Ebből nem lett semmi, mert zöldfelület továbbra is alig található a Kálvinon, de legalább nagyobb területeket vettek el az autósoktól, amit a gyalogosok kaptak meg.
