ولد في ربيع الأول، سنة أربع وستين ومائة. كان أبوه بصري الأصل، منخرطًا في جيش خراسان، أقام في مرو، وكان جده والي سرخس لسنوات، وأمه شيبانية، قدم به والده من مرو وهو حمل، فوضعته أُمه في بغداد، ومات أبوه محمد شابًّا، وله نحو من ثلاثين سنة، وأحمد في الثالثة من عمره، فربي أحمد يتيمًا، وكفلته أمه، ويُنسب إلى جده لشهرته.
اختلف إلى الكتاب صغيرًا، ثمَّ اختلف إلى الديوان وهو ابن أربع عشر سنة، وظهرت عليه إمارات العلم والصلاح منذ أن كان صبيًّا.