De muur werd gebouwd door de Hasmonese koningen in de tweede eeuw voor Chr. en diende tot aan de verwoesting van Jeruzalem in het jaar 70 na Christus. Archeologen legden eveneens een stadsmuur uit de Byzantijnse periode (324-640 n. Chr.) bloot, die er vrijwel bovenop werd gebouwd.De opgraving vond plaats op zuidelijke helling van de berg Sion en heeft anderhalf jaar geduurd. De werkzaamheden stonden onder leiding van archeoloog Yechiel Zelinger van de Oudheidkundige Dienst en werden uitgevoerd in samenwerking met de Dienst voor Natuurreservaten en Parken. De stichting Stad van David zorgde voor de financiën.

Het plan is om rond de oude muren van Jeruzalem een nationaal park aan te leggen. In de toekomst zal deze opgraving deel gaan uitmaken van een promenade die van de berg Sion naar de Stad van David zal lopen. De berg Sion bevindt zich een kilometer ten zuidwesten van de Tempelberg. De Stad van David ligt 500 meter ten zuiden van de berg waarop de Joodse tempels stonden.

Dat er een muur uit de Tweede Tempelperiode liep aan de zuidzijde was al bekend. Onderzoekers van het Palestina Exploratie Fonds hebben in de negentiende eeuw namelijk schachten en tunnels gegraven waarbij die langs de Hasmonese muur liepen. Deze schachten en tunnels raakten in de loop van de tijd weer gevuld met aarde. Met behulp van oude kaarten was Zelinger in staat de tunnels weer te lokaliseren.

Na de verwoesting van Jeruzalem in 70 n. Chr. gebruikten de Romeinen de stenen voor andere doeleinden, waarschijnlijk om de heidense stad Aelia Capitolina, die op de plaats van Jeruzalem verscheen, op te bouwen. Christelijke pelgrims meldden dat keizerin Eudocia de muur opnieuw liet bouwen. Zij stierf in 460 in Jeruzalem.