Kabe, tek olan Allah'ın evi olduğu için, İslam’da bunun yerine başka bir yer aramak prensip olarak yoktur. İşte bunun için Mekke'de Hz. Peygamber (s.a.v.) ve İslamiyet'i kabul eden herkes, ibadet etmek için Kabe'ye gidiyordu. Aynı şekilde, İslam’dan evvel Mekke'lilerin yaptığı gibi, onlar da Kabe'yi tavaf ediyor, etrafında dönüyorlardı.

     Daha sonra, siyasi sebeplerden dolayı Kabe'de ibadet yapılamadı ve camiler inşa edildi. İslam’ın başlangıcında, Mekke'liler müslümanlara karşı kayıtsızdılar; fakat daha sonra müslümanlara işkence yapmaya başladılar. Bu işkenceler, bilhassa Mekke'ye yerleşmiş olan yabancı müslümanlara tatbik ediliyordu.

     İslam’ın büyük müfessir, müverrih (tarihçi) ve muhaddisi olan İbn Kesir eserinde, İslam’da ilk mescidin Ammar b. Yasir tarafından yapıldığını söyler. Ammar b. Yasir, Mekke'li olmayıp, oraya yerleşen bir yabancı idi. Belazuri'nin «Ensab'ül-Eşraf» adlı eserinde, müşriklerin Ammar'a nasıl işkence ettikleri ve O'nu İslam’ı terke zorladıkları kayıtlıdır. Bu hususta söz konusu kitapta şunları okuyoruz: «Müşrikler, Ammar'a o derece işkence yapıp dövdüler ki, Ammar tahammül edemez oldu ve onlara istedikleri şekilde hareket edeceğini söyledi. Bunun üzerine müşrikler, her türlü kötü şeyi söylediler ve Ammar'a tekrar ettirdiler. Gayr-ı müslimler, O'nunla alay etmek için, uçan bir 

sineği gösterip «Bu Allah'ımdır» dedirtiyorlardı, o da «evet bu benim Allah'ımdır» diyordu. Çünkü işkenceler, tahammül edilemez bir hal almıştı.

     Yine bir gün müşrikler eziyet edip, Ammar bu sözleri tekrarladıktan sonra ağlayarak Hz. Peygamber (s.a.v.)'e gitti. Hz. Peygamber (s.a.v.) O'na ne olduğunu sordu. O da olup biteni anlattı, işte tam o sırada «Kalbi iman üzere (sabit ve bununla) mutmain (ve müsterih) olduğu halde (cebr-ü) ikrahe uğratılanlar müstesna» (Nahl süresi, 106) ayet-i kerimesi nazil oldu. Bu ayetle, zor karşısında kalan bir müslüman, kalbinde iman olduğu müddetçe, dine aykırı konuşmak zorunda bırakıldığında, konuşmasında bir beis olmadığı vurgulanıyordu. Aynı şekilde Ammar, Hz. Peygamber (s.a.v.)'e: «Müşriklerin zoruyla sana küfrettim ve böylece Peygamberin aleyhinde konuştum» dedi. Hz. Peygamber (s.a.v.) O'na: «Zararı yok, ben sana müsaade ediyorum» dedi. Bu nedenle, dışa (müşriklere) görünüşü itibariyle Ammar b, Yasir, artık müslüman değildi. İşte bunun için, Kabe'nin önünde İslamî bir şekilde ibadet etmesi mümkün değildi. Aksi halde, Mekke'liler O'na, «yalan söylüyorsun» deyip dövebilirlerdi. Bunun için Ammar b. Yasir'in, İslamî bir şekilde ibadetini yapması gayesiyle evinde bir mescid bina etmesi ve Kabe'nin önünde ibadet yapmaması gayet tabii bir şeydi.