黑龍江省圖書(shū)館始建于1906年（清光緒三十二年），前身為黑龍江將軍署學(xué)務(wù)處在齊齊哈爾市創(chuàng )辦的圖書(shū)館。1954年原黑龍江省與原松江省合并為新的黑龍江省，省會(huì )由原來(lái)的齊齊哈爾市改設在哈爾濱市，原黑龍江省圖書(shū)館便更名為齊齊哈爾市圖書(shū)館。

2013年5月，國務(wù)院（國發(fā)[2013]13號）公布黑龍江省圖書(shū)館舊址為全國重點(diǎn)文物保護單位。