哈尔滨工程大学图书馆是在哈军工2·7万册藏书基础上发展建设的，随着学校的逐步发展，图书馆不断扩充馆藏资源，截止到1990年，全校共藏图书30余万册。

90年代以来，随着学校学科布局的调整和规模的不断扩大，图书馆馆藏的种类和数量也有了较大的发展，逐步建立起较为完备的重点学科专业的文献信息资源。截至2006年馆藏图书160·45万册，报刊2431种。

随着电子化、网络化的进程，图书馆适应时代发展，在注重纸质资源建设的同时，大力加强电子资源建设。尤其是2002年以后，图书馆调整了采购政策，电子资源的采购力度逐年加大，数据库资源也从以中文为主转为中外文并重，从以期刊论文为主发展为各文献类型并重。

图书馆始终坚持围绕学校的学科与专业、课程设置等建设文献资源，力求实现文献资源的优化配置，逐步形成了以“三海一核”（船舶工业、海军装备、海洋开发、核能应用）等特色专业为主的馆藏体系。 截至2014年底，馆藏文献资源（含院系）313·36万册，其中印刷型图书218·39万册，电子图书94·97万册。数据库59个，其中中文数据库22个、外文数据库37个。印刷型报刊1024种，其中中文报刊968种、外文报刊56种。

哈尔滨工程大学图书馆是2009年度中国建设工程鲁班奖（国家优质工程）获奖工程之一，该工程由黑龙江省第一建筑工程公司承建。