Niewątpliwie Jerozolima była od zamierzchłych czasów miejscem, w którym czczono Boga Najwyższego, Stwórcę nieba i ziemi.
Druga Świątynia Jerozolimska
Potężna Babilonia upadła pod ciosami perskiego króla Cyrusa. Ten zaś chcąc pozyskać sympatię narodów podbitych przez Babilończyków, a tym samym umocnić swoje panowanie, pozwolił narodom – a zatem i Żydom, powrócić do swoich krajów. Pozwolił także odbudować świątynię: „Pobudził Pan ducha Cyrusa, króla perskiego, w pierwszym roku jego panowania, tak iż obwieścił on, również na piśmie, w całym państwie swoim, co następuje: «Tak mówi Cyrus, król perski: Wszystkie państwa ziemi dał mi Pan, Bóg niebios. I On mi rozkazał zbudować Mu dom w Jerozolimie w Judzie. Jeśli z całego ludu Jego jest między wami jeszcze ktoś, to niech Bóg jego będzie z nim; a niech idzie do Jerozolimy w Judzie i niech zbuduje dom Pana, Boga izraelskiego - ten to Bóg, który jest w Jerozolimie. A co do każdego z pozostających jeszcze przy życiu - to współmieszkańcy wszystkich miejscowości, gdzie taki przebywa, mają go wesprzeć srebrem, złotem, sprzętem i bydłem - oprócz darów dobrowolnych dla domu Bożego w Jerozolimie»” (Ezd 1,1-4). Cyrus nakazał także zwrócić zrabowane sprzęty świątynne (zob. Ezd 1,9-11).
Po powrocie z niewoli Babilońskiej w 536 r. przed Chrystusem, pomimo licznych przeciwności świątynia jerozolimska została odbudowana. W 515 r., przed Chrystusem miało miejsce jej poświęcenie: „dom ten był gotowy na dwudziesty trzeci dzień miesiąca Adar – był to rok szósty panowania króla Dariusza. I Izraelici: kapłani, lewici i reszta wysiedleńców radośnie obchodzili poświęcenie tego domu Bożego. I na poświęcenie tego domu Bożego ofiarowali: sto cielców, dwieście baranów, czterysta jagniąt, a jako ofiarę przebłagalną za całego Izraela – dwanaście kozłów według liczby pokoleń izraelskich. I do służby Bożej w Jerozolimie ustanowili kapłanów według ich oddziałów, a lewitów według ich ugrupowań, zgodnie z przepisem księgi Mojżeszowej” (Ezd 6,15-18).
Po odbudowaniu w latach 520-515 przed Chrystusem świątynia ponownie stała się jednym z najważniejszych miejsc dla wszystkich Izraelitów. Żydzi, także z diaspory, pielgrzymowali do świątyni jerozolimskiej nawet z najbardziej odległych stron świata. Licznie przybywali przede wszystkim na najważniejsze święta w roku: Święto Paschy połączone z Tygodniem Przaśników, Święto Tygodni nazywane Pięćdziesiątnicą i Święto Namiotów. Do tych świąt z czasem dodano jeszcze inne, spośród których najważniejsze jest Jom Kippur, czyli Dzień Przebłagania.
Niewątpliwie w miejscu świątyni Salomonowej stanęła o wiele uboższa świątynia. W świątyni nie było już Arki Przymierza. Pozostało jednak pomieszczenie określane mianem Święte Świętych. Było to pomieszczenie za zasłoną wykonanej z fioletowej i czerwonej purpury, z karmazynu i kręconego bisioru, z wyhaftowanymi postaciami cherubów. Właśnie ta zasłona rozerwała się przez środek w chwili śmierci Chrystusa (zob. Mt 27,51 i Łk 23, 45). W miejscu Święte Świętych mieszkał Bóg. Do pomieszczenia tego – podobnie jak niegdyś do pomieszczenia z Arką Przymierza – nie wolno było nikomu wchodzić. Jedynie raz w roku w Święto Przebłagania arcykapłan wchodził do środka, aby skropić to miejsce krwią z ofiary.