山东大学计算机学科起源于1971年在数学系组建的计算机教研室，地点在山东大学中心校区（山东大学新校）数学楼，并于1977年招收了计算机专业首届本科生。

1981年，山东大学计算机科学系正式成立。

1986年，获得计算机软件与理论专业的硕士学位授予权。

2000年，随着山东大学、山东工业大学、山东医科大学三校合并，原山东大学计算机科学系、山东工业大学计算机科学与技术系、山东医科大学计算机基础教学部合并成立山东大学计算机科学与技术学院，地点设在山东大学千佛山校区主楼。

2000年，学院获批计算机软件与理论专业的博士学位授予权。

2003年，学院获批设立计算机科学与技术博士后流动站。

2005年，学院获批计算机科学与技术一级学科博士学位授权点，下设计算机软件与理论、计算机应用技术、计算机系统结构三个二级博士点。

2007年，学院增设数字媒体技术和艺术博士点、电子商务与信息技术硕士点。

2007年，计算机科学与技术学院整体搬迁到济南市齐鲁软件园附近的山东大学软件园校区，与山东大学软件学院一体化建设。

2011年，学院获批软件工程一级学科博士授予点。

2014年，学院成立学术指导委员会；同年，学院获得山东大学信息学部首个973项目立项，计算机软件与理论二级学科被山东省列为”十二五”强化建设的重点学科。

2015年，学院申请成为山东大学首个实行预聘制（tenure track）教师聘用的学院，开始大批延揽优秀青年学者；同年，学院开始实施教师岗位分类考核制度；同年，“大数据处理与可视计算”学科方向入选山东大学“学科高峰计划”。

2016年9月，根据学校学科发展布局，学院开始迁往青岛校区，在青岛校区开始了首届本科招生。所属软件工程一级学科划归软件学院建设，软件学院继续留在软件园校区发展。

2017年，计算机科学与技术学院全面搬迁到山东大学青岛校区；同年，计算机学院被山东大学遴选为“双一流”学科建设单位；同年，学院和青岛海洋科学与技术试点国家实验室等科研机构联合设立实验室。

2018年，学院申请设立“人工智能”和“数据科学与大数据技术”两个新工科专业。