للرامهرمزي شيوخ كثيرون، حتى قال الرشيد العطار في «نزهة الناظر» (ص: ٥٢): «في شيوخه كثرةٌ». وفيما يلي قائمة بأسماء بعض شيوخه:
١ - والده عبد الرحمن بن خلاد الرامهرمزي.
٢ - محمد بن عبد الله الحضرمي مُطيَّن.
٣ - محمد بن عثمان بن أبي شيبة.
٤ - زكريا بن يحيى الساجي.
٥ - موسى بن هارون الحمَّال.
٦ - أبو خليفة الفضل بن الحُبَاب الجمحي.
٧ - جعفر بن محمد الفريابي.
٨ - عبدان بن أحمد الأهوازي.
٩ - أبو القاسم البغوي.
١٠ - أبو حصين الوادعي قاضي الكوفة.
١١ - عبد الله بن أحمد بن معدان الغَزَّاء.
١٢ - يوسف بن يعقوب القاضي.
١٣ - أبو شعيب الحراني.
[ ٢٠ ]
١٤ - أحمد بن هارون البرديجي.
١٥ - عبد الله بن الصقر السكري.
١٦ - المفضل بن محمد الجندي.
١٧ - عبيد بن غنام النخعي.
١٨ - الحسن بن المثنى العنبري.