تم تأسيس هذه المكتبة من قبل الإدارة المحلية لداخلية السليمانية (الإدارة المحلية) في 30-6-1943 من قبل وزارة المعارف (وزارة التربية حاليا) و كانت المكتبة تابعة لوزارة المعارف أنذاك, بعد ذلك أصبحت تابعة للإدارة المحلية في بداية الخمسينيات.

الشاعر (بيرميرد)أعلن عن إفتتاحه في جريدة (ژین) و لأول مرة أصبح الشاعر (أ.ب. هەردي) مسؤولا له.

موقع المكتبة في البداية كان يقع على شارع( صابونكەران )في منزل (علي بگ فتح الله) , بعد ذلك إنتقل موقعه إلى منزل أخر قريب من الجامع الكبير , بعد ذلك إنتقل موقعه إلى منزل (مصطفى مزهر) أمام الجامع الكبير , مرة أخرى إنتقل موقعه إلى (المدرسة المتوسطة القديمة) , للمرة الخامسة إنتقل موقعه إلى بناية خاصة به و الذي بني في عصر محافظ السليمانية أنذاك (عمر علي 1954-1957) أمام الجامع الكبير و بقي موقعه هناك حتى سنة 1962. للمرة السادسة و لأخر مرة إنتقل موقعه في سنة 1962 إلى موقعه الحالي القريب من مصنع السجائر في السليمانية و متنزه (نالي) و أمام (سيتي سنتر) على شارع سالم العام.

مع إنتقال موقعه تغير إسمه إلى المكتبة العامة و اصبحت تابعة للإدارة المحلية التابعة لوزارة داخلية العراق , في ذلك الوقت البناية كانت تتكون من إدارة صغيرة و مخزن للكتب العربية و الكوردية و أمامه كان هناك صالة للقراءة خاصة بالأطفال.لذلك الفترة من الزمن كان هذا شيئا جيدا للمدينة.

حتى أواخر سنة 1990 كانت تدار هذه المكتبة من عدة شخصيات مهمة و مشهورة مثل (محرم محمد أمين) كاتب القصص , الشاعر (محمد صالح ديلان) , الشخصية المشهورة (عبدالله كريم علاف).

في بداية الإنتفاضة الشعبية في سنة 1991 أصبحت هذه المكتبة العامة تابعة لوزارة الثقافة في إقليم كوردستان . لفترة مؤقتة أصبح الفنان المشهور (ياسين قادر برزنجي) مسؤولا عنها, بعد ذلك تولى مسؤولية المكتبة الفنان التشكيلي (عمر عبيد عبدالقادر) و الذي إسم شهرته (ئاري بابان)الحاصل على شهادة الدبلوم في (علم المكتبات). هذا الفنان كان موظف في مكتبة جامعة السليمانية في سنة 1977.

في سنة 1996 تم إصدار قرار وزاري من قبل وزارة الثقافة في إقليم كوردستان بأن تصبح المكتبة العامة مديرية للمكتبات التابعة لمدينة السليمانية و الأقضية و النواحي التابعة لها.

في سنة 2001 و بدعم من حكومة الإقليم تم تعمير المكتبة العامة من ناحية البناء و الكتب و الإدارة تحت الرعاية المباشرة للدكتور (برهم أحمد صالح) رئيس حكومة إقليم كوردستان السابق.و أيضا بمساعدة مباشرة من السيد (مام جلال) رئيس جمهورية العراق السابق و وزارة مالية حكومة الإقليم في سنة 2004 تم توفير عدد قيم و كبير من الكتب للمكتبة لخدمة القراء.

بعد ذلك أصبحت مديرية المكتبة العامة في السليمانية تابعة للمديرية العامة الذي تأسس في سنة 2003 بأمر من وزارة الثقافة في حكومة الإقليم . في السنوات الأخيرة أصبحت مديرية مكتبة السليمانية العامة مديرية المكتبات العامة لمحافظة السليمانية مع الأقضية و النواحي التابعة لها و الذي يصل عدد البنايات إلى (22) مكتبة عامة و تدار من قبل (370) موظف تقريبا.

حاليا عدد الكتب الموجودة في المكتبة العامة في السليمانية يصل إلى أكثر من (100000) كتاب.