آیت الله حاج آخوند کوه بیرونی سال 1336 پس از باز گشت به درخواست مردم، علما و طلاب مناطق مختلف تدریس را آغاز کرد که با استقبال عجیب مردم و سیل مشتاقان به علوم و اندیشه های دینی از مناطق مختلف بهسود، پنجاب، ورس و دیگر مناطق همجوار مواجه شد. حسینیه های محل استقرار ایشان دیگر پاسخگوی علاقمندان نبود و به ناچار در فصول گرم سال در محیطهای باز از خیمه استفاده می کردند.
ایشان برای پاسخ گفتن به نیاز مبرم شیعیان به یک مرکز عظیم علمی و دینی و برای تعلیم و نشر علوم و معارف اسلامی و تمرکز بخشیدن به مشتاقان علوم آل محمد (ص) و ارائه دروس منظم، با حضور اساتید کار آمد و مدیریت درست، به فکر تأسیس حوزه علمیه کوه بیرون افتاد.
در اواخر بهار سال 1337 هجری شمسی سنگ بنای مدرسه علمیه کوه بیرون گذاشته شد. در جریان عملیات اجراییاین پروژه عظیم علمی و دینی، صحنه های زیبا و ماندگاری به وجود آمد که تا هنوز شاهدان عینی با عظمت و تعجب از آن یاد می کنند. برای آغاز ساخت این مدرسه مراسمی بزرگ با حضور انبوه مردم برقرار شد. شیعیان مؤمن و خداجوی برای حضور در این مراسم از هر طرف به سمت کوه بیرون سرازیر شدند، در حالی که هر یک از شرکت کنندگان از پیر و جوان، زن و مرد با شور و هیجان و علاقمندی تمام سنگی را به محل ساخت مدرسه می آوردند و بدین سان به ندای خیرخواهانه آن فقیه دلسوز لبیک گفته و در شکل گیری این بنای مقدس سهیم شدند.
سرانجام این مدرسه با همت بلند حاج آخوند کوه بیرونی و با همکاری جدی و کم نظیر مردم کوه بیرون و مناطق دیگر مثل پنجاب، سرخجوی و گردم با مساحت 2400متر مربع در دو طبقه با شصت حجره، مسجد و حسینیه بزرگ و کتابخانه ساخته شد.
مدرسه علمیه کوه بیرون یکی از مدارس دینی مهم شیعیان افغانستان شناخته می شود که از همان ابتدای تأسیس با حضور پر رونق و انبوه مشتاقان به علم و دانش از مناطق مختلف شیعه نشین مثل بهسود، پنجاب، ورس، غزنی، هرات، کابل و شمال کشور مواجه شد. طلاب در مقاطع مختلف، کلیه دروس سطح را از محضر اساتید مجرب و کارآزموده تحت اشراف مستقیم آیت الله حاج آخوند کوه بیرونی فرا می گرفتند. آن عالم جلیل القدر خود نیز دروس سطح عالی و گاه دروس مقدماتی را تدریس می کرد. و در نهایت در زمان حیات پربار ایشان، طلاب در دو دروه از سطح عالی فارغ التحصیل شده و دوره سوم هم برقرار بوده است.
پس از ارتحال آیت الله حاج آخوند مدرسه علمیه کوه بیرون توسط فرزند ارشد ایشان حجت الاسلام و المسلمین حاج شیخ محمدباقر رضایی اداره و سر پرستی می شد. آن روحانی وارسته برای تداوم راه مرحوم ابوی با فداکاری تمام زحمتهای فراوانی را متحمل شد. دست از آسایش و آرامش خود شسته و با مقاومت در سنگر مدرسه به خصوص در سالهای سخت جنگهای داخلی و رقابتهای حاد حزبی برای حفظ و نگهداری یادگار آن فقیه فقید شبانه روز تلاش کرد. و آن خدمتگزار اهل بیت (ع) در سال 1382 دار فانی را وداع گفته به دیار باقی شتافت.
پس از ارتحال حاج شیخ محمدباقر رضایی، اداره مدرسه علمیه بر عهده فرزند دیگر آیت الله حاج آخوند، جناب حجت الاسلام و المسلمین حاج محمدهادی رضایی قرار گرفته است. و با توجه به قدمت 50 ساله این مدرسه و فرسودگی ساختمان آن در سال 1383 تصمیم به بازسازی این مرکز عظیم علمی گرفته شد که با حمایت و همکاری جدی و صمیمانه علما، طلاب و مردم قدرشناس و فهیم کوه بیرون و مهاجرین مقیم ایران مواجه شد.
