نزديک يک قرن پيش مدرسه علميه در اهر بنيان گذاشته شد تا مرکزي براي تربيت عالمان ديني در منطقه قره داغ باشد. ميرزا حسن وزير که مسؤول امور ماليه قره داغ بود، در سال ۱۳۰۷ هـ ش دستور ساخت بناي مدرسه علميه را صادر کرد و اين بنا زير نظارت او ساخته شد.
مدرسه علميه اهر که با نام«شمس» شهرت داشته است، در دوره پهلوي به مدرسه دولتي تبديل شد و تلاش علما و طلبه‌هاي منطقه در جهت تبديل مدرسه به حوزه علميه ثمر نداد تا اين که آيت‌الله شيخ حسين نجفي اهري در احياي مجدد حوزه علميه توفيق يافت و مديريت آن را به دست گرفت.
پس از انقلاب اسلامي ساختمان جديدي در سه طبقه و در محل حوزه علميه ساخته شد و هم اکنون با نام مدرسه علميه امام صادق(ع) تعداد هفتاد طلبه را در شش پايه آموزش مي‌دهد.
در دوره حکومت پهلوي و در حالي که حوزه علميه شمس به مدرسه تبديل شده بود، در سال ۱۳۲۵ مدرسه علميه ديگري در ضلع شمالي حياط مسجد جامع که به دوره سلجوقي و اتابکان آذربايجان منسوب است، بنا شد.
اين مدرسه از سوي حاج ميرجواد باغباني با اموال مير صالح که بي‌وارث بود، ساخته شد و به مدرسه علميه«جواديه» نام گرفت. در اين مدرسه علماي بزرگي چون آيت‌الله شيخ حسين آقا برقي، آيت‌الله شيخ حسين نجفي اهري و آيت‌الله حاج سيد جعفر بني‌هاشم به تدريس و آموزش طلاب همت داشتند.
اکنون ساختمان مدرسه علميه جواديه به حال خود رها شده و در حال تخريب است و با توجه به ارزش تاريخي و ديرينه‌اي که دارد از مسؤولان حوزه ميراث فرهنگي انتظار مي‌رود تا در خصوص مرمت آن همت گماشته و به مراکزي چون موزه مشاهير ديني قره‌داغ تبديل شود؛ چنان‌كه امام جمعه شهرستان اهر پيش‌تر خواستار«تدوين و جمع‌آوري تاريخ شفاهي علما و حوزه علميه اهر» شده بود.
از سوي ديگر مکاتب ديني در ارسباران پيشينه بالايي دارد و پيش‌تر از حوزه‌هاي علميه اهر، شيخ شهاب‌الدين محمود اهري، عارف بزرگ قرن هفتم، در محل بقعه کنوني‌اش به تربيت علما و عرفا مي‌پرداخت و اين محل در زمان حيات شيخ داراي تشکيلات درسي بود و عالمان و عارفان بزرگي چون شيخ جمال‌الدين تبريزي، بابا فرج وايقاني، باله بنيسي و علماي ديگر، در اين دارالعلم به تحصيل کمالات نفساني و فقه مشغول بودند.
گفتني است، بقعه کنوني شيخ شهاب‌الدين اهري در زمان شاه عباس اول صفوي ساخته شده است.
تحقيقات مدون تاريخي زواياي بيش‌تري از فعاليت مکاتب ديني در قره‌داغ را روشن خواهد کرد و نمونه‌هاي متعددي از چنين فعاليت‌ها به دست خواهد آمد، همچون فعاليت محدث شيخ عماد‌الدين اهري که ظاهراً پيش از دوره صفوي مي‌زيسته و معارف و الهيات تدريس مي‌کرد و قبرش در مسجدي به نام او که در سال ۱۲۷۷ بنا شده، امروزه مورد احترام مردم و محل برگزاري نماز جمعه است.