1893-ban nyílt meg a Kozma utcai izraelita temető, amelyhez 1891-ben hozzáépült a már ikonikus, mór stílusú, fehér ravatalozó, melyet Freund Vilmos tervezett.
Az új területen a Váci úti temetőből áthozott exhumáltakat temették el először, valamint ekkor került kialakításra az első rabbi-parcella is, ahol olyan emblematikus rabbik kaptak helyet, mint Oppenheimer Simon Ben Dávid, a rabbitanács vezetője, Wahrmann Izrael hitoktató, Kunitzer Mózes budai főrabbi, vagy az első magyar nyelvű szertartást megvalósító Kohn Sámuel főrabbi.
A hatalmas terület más hírességeknek is végső nyughelyet adott, itt lett eltemetve többek között Wittmann Viktor, a magyar repülés úttörője, Bródy Sándor magyar drámaíró, az ország első olimpiai bajnoka, Hajós Alfréd, valamint a világhírű magyar autóversenyző, Hartmann László is.
A második világháború után a holokauszt mártírjai, illetve az első világháború hősi halottjai is itt nyugszanak.
A hírességek és hősök mellett itt helyezték végső nyugalomra a századforduló, valamint a XX. század zsidóelitjét is, akiket a temető falai melletti, néha igen látványos mauzóleumokban temettek el: ilyen például a Brüll család kriptája, amely Gerster Kálmán tervei alapján készült, de érdemes kiemelni még a Zsolnay-elemekkel borított Schmidl-mauzóleumot, illetve a Gries-mauzóleumot, amelyet Róth Miksa mozaikjai díszítenek.
A Gries- és a Schmidl-mauzóleumok védettek, műemléknek számítanak.
Sajnos a sírok, illetve épületek gyakran igen rossz állapotban vannak, ez főleg annak tudható be, hogy nincsenek hozzátartozók, de az óriási területen szinte lehetetlen is lenne a karbantartás.
A növényekkel benőtt sírok azonban nem mindig az elhanyagoltság jelei: a zsidószokások szerint a növények jelenléte a tisztelet jele, és még akkor sem lehet elszállítani őket, ha azok lekerültek a sírról.
