1958年6月，学校前身山东省兖州水利机械学校建立，同年9月，第一届新生在济南章丘旧军村暂借校址开学；10月起，学校陆续迁兖州。

1959年12月，学校迁曲阜，并更名为山东省曲阜水利机械学校。

1962年，国民经济调整时期，学校停办。

1963年6月，恢复办学。

1965年8月，更名为山东省曲阜半工半读水利学校。

1968年4月，更名为山东省曲阜水利学校。

1972年，与泰安水利学校合并为山东省水利学校。

1974年，恢复为山东曲阜水利学校；同年9月，更名为山东省水利机电学校。

1985年3月，更名为山东省水利学校。

1999年7月，山东水利职工大学改设在山东省水利学校。

2002年4月，升格为山东水利职业学院。

2004年8月，学校主体搬迁日照校区。

2009年，成为全国水利职业教育示范院校。

2012年，成为山东省技能型人才培养特色名校立项建设单位。

2018年，入选国家现代学徒制试点单位。

2021年9月30日，通过教育部职业教育与成人教育司组织的现代学徒制第三批试点验收。

2023年9月，担任山东省职业技术教育理论研究中心常务理事单位。