وأما ما بعد نشأته في طبرستان - مسقط رأسه ـ، فقد رحل إلى نيسابور قاصدا إمام الحرمين، وتعتبر هذه هي المرحلة الثانية من نشأته العلمية، وهي الأهم في تكوينه؛ فقد صحب إمام الحرمين وتخرج به ولازمه حتى وفاته، فكان مدة ملازمته إياه قرابة عشر سنوات. وأصبح أثناء صحبته لأبي المعالي من رؤوس معيديه، وصار من أكبر أصحابه وأعظم طلابه مع قرينه أبي حامد الغزالي وغيره.
ومن الدلائل على جده واجتهاده في طلب العلم وحرصه على الحفظ والإتقان ما قاله عن نفسه: «كنتُ في مدرسة سرهنك بنيسابور، وفيها قناةٌ لها سبعون درجة، وكنتُ إذا حفظت الدرس أنزِلُ القناة وأُعيد الدرس في كل درجة؛ مرَّةً في النزول، ومرَّةً في الصُّعود. قال: وكذا كنتُ أفعل في كل درس حفظته».