Eski kaynaklar burayı “Galata Hisarı” olarak isimlendirmektedir. Fetihten sonra “Mahzen-i Sultânî” olarak adlandırılmış ve silah ile cephane deposu olarak kullanılmıştır.
Bu cami ve içindeki sahabe kabirlerinin tespitiyle ilgili rivayet şöyledir: 1165/1752 yılında, Şam’dan İstanbul’a ziyarete gelen Şeyh Murad Efendizâde Şeyh Mehmed Efendi, Galata’ya gelerek, daha önce babasının keşfen tespit ettiği bu mekânın faziletini anlatmış ve durumu saltanat makamına bildirmiştir. Bu işaret üzerine, “Köse” lakabıyla tanınan Sadrazam Mustafa Bahir Paşa, 1106-1169/1752-1756 yılları arasında adı geçen mekânı elden geçirerek kısa sürede namaz kılınacak hale getirmiş ve vakfiye tanzim etmiştir.
Yeraltı Camii, Beyoğlu ilçesinde, Karaköy Vapur İskelesi’ni geçtikten sonra sola sapıldığında, Kemankeş Caddesi üzerinde yer almaktadır. Burası, gemicilerin Haliç’e girişini önlemek için Galata-Sirkeci arasına çekilen zincirin bir ucunun bağlandığı kuledir.
Şeyh Murad Efendi’nin keşif ve tespit hadisesi şöyledir: Mânâ âleminde, Üsküdar’dan Galata tarafına bir köprü görür ve bu köprüden büyük ruhların geçtiğine şahit olur. Sebebini sorduğunda, Kurşunlu Mahzen’de medfun bazı zatları ziyaret için geldiklerini öğrenir. Bu durumu oğlu Mehmed Efendi’ye anlatmış olmalıdır ki, babasının vefatından bir süre sonra İstanbul’a yaptığı bir ziyarette bu hadiseyi yetkililere aktarır.
Kare kesitli 54 paye ile bölünen bu yapının yeniden ihyası sırasında bazı kabirler görülmüş ve Şeyh Mehmed Efendi’nin tahkikiyle burada bazı büyük zatların mezarlarının bulunduğu ifade edilmiştir. Bu mezarların üzerine sanduka konularak ziyaretgâh haline getirilmiştir. Caminin içinde demir parmaklıklarla ayrılmış iki ayrı türbe bulunmaktadır. Bu türbelerden birinde iki, diğerinde ise bir kabir yer almaktadır.
İki kabirli türbede bulunan mezarlardan biri Vems bin Hüşeyre Hazretleri’ne, diğeri ise Amr bin Âs Hazretleri’ne aittir. Süfyân b. Uyeyne Hazretleri’nin makamı ise cami içinde bulunan diğer türbede tek başına yer almaktadır.