في عام ١٩٣١ تأسست "جمعية العلماء المسلمين الجزائريين"، كرد فعل إيجابي على احتفال فرنسا بمرور قرن على احتلال الجزائر، بعدما أيقنت أن الجزائر قد أصبحت إلى الأبد قطعة منها، مسيحية الدين، فرنسية اللسان، فجاء شعار الجمعية صارخا مدويا في وجه فرنسا، وراسما طريق الخلاص منها: "الْإِسْلَامُ دِينُنَا، وَالْعَرَبِيَّةُ لُغَتُنَا، وَالْجَزَائِرُ وَطَنُنَا".
ووضع الإبراهيمي دستور الجمعية وقانونها الأساسي، وأصبح نائبا لرئيسها الإمام ابن باديس، ومنذ عام ١٩٣٣ تكفل بالمقاطعة الغربية من القطر، واختار مدينة تلمسان مركزا لنشاطه المكثف، وأسس فيها "مدرسة دار الحديث" سنة ١٩٣٧، بنيت على نسق هندسي أندلسي أصيل، فكانت مركز إشعاع ديني وعلمي وثقافي، واحتوت على مدرسة ومسجد وقاعة محاضرات.
إن الجزء الأول من آثار الإبراهيمي يشتمل على ما عثرنا عليه خلال هذه المرحلة من حياته، وهي أدق حقبة في تاريخ الجزائر الحديث، نظرا لما شهدته من أحداث كان لها شأن كبير في تشكل الوعي الديني والسياسي للمجتمع الجزائري.