Büyük Mecidiye Camii’nin yerinde 1721 yılında Nevşehirli Damat İbrahim Paşa’nın damadı Mahmut Ağa tarafından yaptırılan mescit bulunuyordu. 1740′lı yıllarda bu mescitin yerine Divittar(özel kalem) Mehmet Ağa tarafından bir cami yapıldı. Sultan Abdülmecit döneminde (1855) caminin yerine bugün gördüğümüz yapı inşaa edilmiştir. Mimarı Nikoğos Balyan’dır. Barok uslubunda inşaa edilmiştir. Bütün selatin camilerinde olduğu gibi harim ve hünkar bölümü olmak üzere iki kısımdan oluşur. Yapının denize kaymasından ötürü 1960′lı yıllarda kapsamlı bir onarım görmüştür(64 fore kazık ve 80 ton beton enjekte edilerek zemin takviyesi yapılmıştır.). 1984 yılında çıkan yangınla hasar görmüş tekrar yenilenerek günümüzdeki görünümüne kavuşmuştur.