Khalifah Abbasiyah Al Mansur kemudian membangun kembali pada tahun 754, yang dikembangkan oleh penggantinya Al Mahdi pada tahun 780 Masehi. Tahun 1033 gempa kembali menghancurkan sebagian besar Al Aqsa, dua tahun kemudian Khalifah Fatimiyyah Ali Azh Zhahir membangunnya kembali.