وقد وجهه إلى هذا العمل الجليل كلمة سمعها من أستاذه إسحاق بن راهويه. روي عن البخاري أنه قال: كنت عند إسحاق بن راهويه فقال: لو جمعتم كتابًا مختصرًا لصحيح سنة رسول الله ﷺ، قال: فوقع في قلبي فأخذت في جمع الجامع الصحيح، وقد قوّي عنده العزم رؤيا رآها فقد روي عنه أنه قال:
رأيت النبي ﷺ وكأني واقف بين يديه، وبيدي مروحة أذب بها عنه، فسألت بعض المعبرين فقال لي: أنت تذب الكذب عن حديث رسول الله ﷺ، فهو الذي حملني على إخراج الجامع الصحيح.