Jerusalém é uma cidade muito antiga. Tem uma grande importância para três religiões: O judaísmo, o cristianismo e o islamismo. A Bíblia diz que o rei David, o segundo rei de Israel, tirou esta cidade aos pagãos e estabeleceu ali o seu palácio. O rei Salomão, filho de David e o rei seguinte, construiu o Templo de Salomão em Jerusalém. Mais tarde, como capital de Judá, Jerusalém foi destruída por Nabucodonosor II, o rei da Babilónia. O Palácio do Rei David e o Templo de Salomão foram queimados, e os judeus foram capturados e levados para Babilónia. Setenta anos mais tarde, o rei persa Ciro permitiu-lhes regressar a Jerusalém e reconstruir o Templo.
Mais tarde, a área foi ocupada por romanos. O Rei Herodes o Grande, que governou pelo Imperador Romano, tornou o Templo maior para tentar ganhar o favor dos judeus. O Templo era famoso pela sua grandeza e beleza.
Jesus morreu em Jerusalém por volta dos 33 EC. Em 70 d.C., os judeus rebelaram-se contra os romanos, mas os romanos destruíram a cidade e o Templo. O povo judeu que vivia em Jerusalém foi apanhado e tornou-se escravo. Os romanos rebaptizaram Jerusalém com um nome latino. Desde então, o Templo não foi reconstruído, e apenas uma parte do seu muro permanece até hoje.
Após a divisão do Império Romano em dois, o Império Bizantino governou Jerusalém. Mais tarde, os muçulmanos tomaram-lhes o controlo da cidade. Os muçulmanos acreditavam que Muhammad tinha ido de Jerusalém para o céu.
Mais tarde, o Papa em Roma enviou os Cruzados da Europa Ocidental para tentarem retomar Jerusalém. Foram bem sucedidos durante algum tempo, mas eventualmente a cidade caiu novamente para os sarracenos. Até ao século XX, Jerusalém fazia parte do ImpérioOtomano. Havia sempre alguns judeus em Jerusalém, apesar de serem governados por outras pessoas.
A "Nova Cidade" de Jerusalém é a parte fora das antigas muralhas de pedra. As pessoas começaram a construir a nova cidade no século XIX. Mishkenot Sha'annanim, Mea Shearim, e o Bairro Bukharan são alguns dos primeiros bairros da nova cidade.
Após a Primeira Guerra Mundial, o Império Otomano tinha sido derrotado. Em Junho de 1922, a Liga das Nações aprovou o Mandato Britânico da Palestina. Isto deu o controlo da área ao Reino Unido. A terra a oeste do rio Jordão era conhecida como Palestina. Este território esteve sob controlo directo britânico até 1948. A terra a leste do rio Jordão era conhecida como Transjordânia, e era governada pela família Hachemita. A Transjordânia conquistou a independência em 1946.
O mandato na Palestina terminou à meia-noite do dia 14 de Maio de 1948. No dia seguinte, a Guerra Árabe-Israelita de 1948 começou. Israel declarou a independência, a Cisjordânia foi anexada pela Jordânia, e o Egipto tomou o controlo da Faixa de Gaza.
Em 1949, no final da primeira guerra israelo-árabe, Jerusalém foi dividida entre Israel e a Jordânia. Israel controlava a parte ocidental da cidade. A Jordânia controlava a parte oriental, incluindo a Cidade Velha, uma secção muralhada de Jerusalém, datada da época bíblica. Israel tomou o controlo de toda a cidade durante a Guerra dos Seis Dias, em 1967.
Jerusalém é hoje reivindicada pelo Estado de Israel como a sua capital. As Nações Unidas não concordam com a afirmação de Israel de que Jerusalém é a capital de Israel.