بعد استيلاء الهندوس على الهند، ساءت الأوضاع هناك، فقرّر الشيخ الارتحال إلى مكة وكان ذلك في شهر ذي القعدة سنة (١٣٧١ هـ)، ثم عُّين أمينًا لمكتبة الحرم المكي في شهر ربيع الأوّل سنة (١٣٧٢ هـ) -وكان له من العمر ستون عامًا- فبقى فيها أربعة عشر عامًا يعمل في خدمة رُوَّاد المكتبة من طلاب العلم، بالإضافة إلى استمراره في تصحيح الكتب وتحقيقها لتطبع في دائرة المعارف العثمانية حتى وافاه الأجل سنة (١٣٨٦ هـ) عن أربع وسبعين عامًا رحمه الله تعالى وأسكنه فسيح جناته.