Bu mihrap, Mescid-i Aksa’nın güney cephesinde olup kıble yönündedir. Mervan Mescidinin üstünde, Sur'un içine gömülü görkemli büyük bir mihraptır. Mihrap olarak kullanılmayan yapı, avluda namaz kılanların kıble yönünü tayin etmelerine yardımcı olmaktadır. İmamı El-Cevzi eserinde “Ömer İliya’da Mescide girdi, Davud Mihrabının önüne geldi, Sad Suresini okudu ve secde etti.” derken burayı kastetmiştir.

Bazı tarihçiler bahsedilen olayın Kıble Mescidi'nin mihrabında gerçekleştiği iddiaları mantıklı bulunmamaktadır. Zira Ömer (r.a.)'ın ziyaret tarihi olan 638'de henüz Kıble Mescidi inşa edilmemişti. Doğrusunu Allah bilir. Mihrap; bir kez Fatımiler zamanında Halife Liazaz Din-Allah döneminde, bir kez de Memluklular zamanında Sultan Hüsameddin Lacin döneminde yenilenmiştir.