كان من الجوالين في طلب الحديث صاحب غرائب. سمع محمّد بن الفضل البلخي، وأحمد بن سيار المروزيّ، وأبا حاتم الرّازي، وأبا قلابة الرقاشي، وطبقتهم، وكان ثقة حافظا قدم بغداد وحدث بها. فروى عنه محمّد بن المظفّر، والدارقطني، وابن شاهين، ويوسف بن عمر القواس، وعبد الله بن عثمان الصّفّار.
أخبرنا البرقاني، أخبرنا أبو الحسن الدارقطني قال: عليّ بن الفضل بن طاهر البلخي ثقة.
أخبرنا التنوخي قال: قال لنا أحمد بن إبراهيم بن شاذان: وفي هذه السنة- يعني سنة ثلاث وعشرين وثلاثمائة- توفي عليّ بن الفضل بن طاهر البلخي.
قلت: وببغداد كانت وفاته.