توفي سنة سبع وثلاثمائة.
قال الذهبي: "عَاشَ أبو يَعْلَى إلَى أثْنَاء سَنَة سَبْع وَثَلَاثٍ مائَةٍ، فَقيَّده أبو الحُسَيْنِ بنُ المُنَادى فِي رَابِعَ عَشَرَ جُمَادَى الأولَىَ، وَانْتَهَى إِلَيْه عُلوُّ الإسْنَاد، وَازدحَمَ عَلَيْه أصْحَابُ الحَدِيْث، وَعَاشَ سَبْعًا وَتسعين سَنَةً".
قال يزيد بن محمد الأزدي: "كان أبو يعلى من أهل الصدق والأمانة والدين والحلم؛ غُلِّقت أكثر الأسواق يوم موته وحضر جنازته من الخلق أمر عظيم" (^١).