عاش المازري حياة طويلة هنيئة مملوءة عِلْمًا وَعَمَلًا وتقوى ونصيحة للقريب والبعيد، وقد عمر حتى بلغ الثالثة والثمانين، وأدركته المنية في مدينة المهدية التي اتخذها مقرًا ومسكنًا من زمن دراسته إلى أن توفي بها يوم السبت الثامن من ربيع الأول سنة ست وثلاثين وخمسمائة (١٢ أكتوبر ١١٤١ م) في مدة آخر الأمراء الصنهاجيين الحسن بن علي بن يحيى بن تميم بن المعز، وكان لموت الإمام المازري رنة عظيمة في أنحاء البلاد الإفريقية، وتوجع لفقدانه سائر السكان من حاضر وباد.