مسجد «باباحاجی» معروف به مسجد «باباجی صاحب» که در غرب شهر قدیم «غزنه» و با مساحتی حدود 200 مترمربع در دو طبقه بنا شده است، قدیمی‌ترین مسجد شهر غزنی است. گفته می‌شود که این بنای 2500ساله پیش از این به‌عنوان عبادتگاه استفاده می‌شده است.
گفته می شود: مسجد «باباحاجی» پیش از اسلام و در زمان حکومت بوداییان (دوره پادشاهی کنشکا)، یکی از عبادت‌گاه‌های مهم بوداییان در این ولایت بوده و با گسترش اسلام در کشور، این عبادتگاه در زمان خلیفه سوم (عثمان بن عفان)، به مسجد مبدل شد و برهمین اساس، نخستین مسجد مسلمانان در این ولایت شمرده می‌شود.
شهر قدیم غزنه (شهر کهنۀ غزنی) از قدیمی‌ترین محله‌های این ولایت است که دارای ۱۲ مسجد و ۱۴ گذر می‌باشد. بیش‌تر مسجدها در این محله قدمت بیش از صد ساله دارند و جزء از آبده‌های تاریخی غزنی ثبت وزارت اطلاعات و فرهنگ‌اند.
با آن‌که برج‌های قلعۀ غزنین در سال ۲۰۱۳ ترمیم و بازسازی شد، اما بیش‌تر مسجدها و مکان‌های تاریخی این قلعه به حالت خودشان باقی مانده‌اند و با گذشت هر سال این مکان‌های تاریخی بیش‌تر آسیب می‌بینند.
