Il quartiere ebraico ha iniziato a svilupparsi lungo la riva destra della Moldava nel XII secolo. Nei pressi dell’Antica Scuola si insediarono gli ebrei d’oriente, verosimilmente provenienti da Bisanzio. L’Antica Scuola era la più antica sinagoga di Praga, oggi al suo posto si trova la sinagoga Spanelska, costruita in stile moresco nel 1868.

Gli ebrei provenienti dai territori tedeschi si insediarono nei pressi della sinagoga Staronova. La sinagoga Staronova, uno dei più importanti capolavori dell’architettura gotica ceca, fu costruita alla fine del XIII secolo ed è la più antica sinagoga dell’Europa centrale.  Entrambe le parti del quartiere ebraico furono unificate da una strada commerciale molto frequentata, la via Josefovska, oggi via Siroka.

Per secoli chiuso, separato dal resto della città da delle torri, il quartiere ebraico ha potuto svilupparsi solo dall’interno ed è stato colmato di edifici annessi e di sgabuzzini. Nel XIX secolo Josefov era un luogo umido e tetro con un’aria molto insalubre, dove la maggior parte dei residenti faceva parte della gente povera di Praga. Nei vicoli bui e negli stretti e angusti cortili era come se rivivessero antichi fantasmi e leggende.

L’aspetto di Josefov è stato modificato da una demolizione del 1893. La maggior parte degli edifici del quartiere di Josefov è stata demolita, senza alcun riguardo per il valore storico, e sostituita con costruzioni moderne.  Sono state risparmiate soltanto sei sinagoghe, il municipio ebraico e il vecchio cimitero ebraico. Il cimitero fu costruito a cavallo tra il XIV e il XV secolo, la più antica tomba rimasta è del 1439. Nelle immediate vicinanze del cimitero si trovano la neoromanica sala rituale della Confraternita della Sepoltura praghese del 1908 e la sinagoga Klausova del 1964.