وكان أَول خطوات البناءِ للمجتمع الإسلامي الجديد هو إقامة المسجد النبوي لتظهر فيه شعائر الدين الجديد، وليكون جامعة يتلقى فيها المسلمون تعاليم الإسلام وتوجيهاته، ومنتدى تلتقى وتتآلف فيه العناصر القبلية المختلفة التي نافرت وباعدت بينها النزعات الجاهلية التي كانت النظام الموجه لهذه القبائل.
ففي المكان الذي بركت فيه ناقة الرسول - ﷺ - فور قدومه من مكة أَمر بإقامة هذا المسجد، فسارع المسلمون إلى جمع المواد التي يتطلبها بناؤه، فأَخذوا في قطع جذوع النخل، وشرعوا في صنع اللبِن، ثم شرعوا في بناء المسجد الذي كانت مساحته مائة ذراع في مثلها تقريبًا.
وقد ساهم النبي - ﷺ - في بناء المسجد بنفسه مع أصحابه، فحمل التراب واللبن على كاهله الشريف مثلما حملوا.
[ ١ / ٩٢ ]
وقد ضاعف من نشاط الصحابة في البناء أن رأوا محمدًا النبي، يرفض الامتياز عليهم، فيحمل التراب والمواد الأُخرى على ظهره مثلهم، حتى أن أحدهم قال ينشِّط أَخوانه:
لئن قعدنا والرسول - ﷺ - يعمل لذاك منا العمل المضلّل
وقد تم بناءِ المسجد النبوى على غاية من البساطة، إذ أَقيمت حيطانه من اللبن والطين، أما سقفه فقد جعل من سعف النخل الذي طالما تخللته مياه الأَمطار إلى الداخل، أما أرض المسجد فقد فرشت من الرمال والحصباء، وكانت الأَعمدة التي يقوم عليها السقف من جذوع النخيل.