Niezwykłą w Jerozolimie był także znajdujący się w górnej części miasta pałac Heroda. Zaopatrzony był on we własne mury i wieże obronne i urządzony z wyjątkowym przepychem, z wykorzystaniem, marmuru, złota i drogocennych sprzętów. Pałac składał się z niezliczonej liczby pomieszczeń, perystylów, czyli dziedzińców otoczonych kolumnadą, oraz ogrodów i fontann. Chcąc wzmocnić obronność pałacu Herod Wielki wybudował na północ od niego rodzaj twierdzy z trzema potężnymi wieżami. Każda z nich nosiła imię drogiej Herodowi osoby i każda miała inne prze­znaczenie. Największa z nich, nazwana Fazael dla upamiętnienia brata Heroda, miała 45 m wysokości i w swojej dolnej części była dookoła oblankowana. W jej górnej części urządzony był pałac, całość zwieńczona była wieżyczkami. Wieża średnia, nazwana Hippikus z myślą o królewskim przyjacielu, miała 40 m wysokości i prócz swojego obronnego przeznaczenia pełniła również funkcję zbiornika wody. Najmniejsza, ale jednocześnie najpiękniejsza wieża nazywała się Mariamne (27 m wysokości) ku czci ukochanej żony króla. Herod oskarżył ją wprawdzie o zdradę i kazał zamordować, ale historycy twierdzą, że była jedyną osobą, którą naprawdę kochał. Jak podaje żydowski historyk, król zadbał, by swoim wystrojem i luksusowymi sprzętami przewyższyła dwie pozostałe wieże. Z twierdzy przy pałacu Heroda pozostały do dziś tylko fundamenty jednej z wież, najprawdopodobniej tej największej, wzniesionej ku czci Fazaela.

Jerozolima to także liczne rzymskie budowle. Herod Wielki bowiem był człowiekiem zakochanym w kulturze i architekturze Grecji i Rzymu. Stąd też starał się, by miasto jak najbardziej przypominało najsłynniejsze metropolie cesarstwa rzymskiego. Herod wybudował między innymi amfiteatr, czy hipodrom na którym regularnie odbywały się wyścigi konne.

Jerozolima to także niezwykły kanał Ezechiasza, sadzawka Siloe, źródło Gihon, piękne bramy, dostojne mury i przybywający zewsząd pielgrzymi. Ale w czasach Jezusa tak naprawdę sercem Jerozolimy była świątynia. Dla Izraelitów był to prawdziwy dom Boży. Świątynia Jerozolimska była prawdziwym miejscem dorocznych pielgrzymek, miejscem prawdziwej modlitwy.