الأولى: رواية كبيرة رواها أبو بكر محمد بن إبراهيم المقرئ، عن أبي يعلى، وهى التى اعتمد عليها ابن حجر في: "المطالب العالية"، والبوصيرى في "إتحاف المهرة"، في تخريج زوائدها على الكتب الستة، وتُسمَّى هذه الرواية بـ "المسند الكبير".
والثانية: رواية صغيرة رواها أبو عمرو ابن حمدان، وهذه الر واية هي التى اعتمد عليها الهيثمي في كتابيه: "المقصد العلى في زوائد أبي يعلى الموصلي" و"مجمع الزوائد ومنبع الفوائد".
وهذه الرواية الصغيرة هي التى وصلت إلينا.
وقد طُبعتْ هذه الرواية عدة طبعات، أقدمها وأشهرها طبعة دار المأمون بتعليق الأستاذ حسين سليمَ أسد.