1958年6月18日，烟台市人民委员会文化科下发文件，设立烟台市博物馆。

1962年12月，原烟台专区博物馆建立，馆址坐落于烟台市北大街72号（中华人民共和国成立前永昶号绸缎庄）。

1964年，郭沫若亲笔题写额匾“烟台市博物馆”六个大字。

1978年，原烟台市博物馆与烟台市展览馆合并。

1983年，原烟台地区改为烟台市，次年元月地、市两馆合并，为市属地方历史博物馆，与烟台市文物管理委员会为一个机构两个牌子，为科级事业单位，馆址主要在福建会馆及其西院新库房办公楼，菜市街9号有590平方米的考古标本室，另在南大街61号有2000平方米的展览中心和办公区域。

1984年6月，地改市后将原烟台市博物馆与烟台地区博物馆合并，成立现在的烟台市博物馆。

1999年6月，烟台市展览馆撤销，原展览馆18名人员调入烟台市博物馆。10月16日，烟台市博物馆人员编制调整为50名，新增编制用于安排原市展览馆的干部职工。

2002年7月4日，烟台市博物馆机构规格由科级调整为副处级。

2006年11月30日，烟台市文物店15人调入烟台市博物馆。

2007年9月13日，烟台市博物馆新馆开工建设。

2008年12月25日，烟台市博物馆机构规格由副处级调整为正处级。

2017年5月18日，晋级第三批国家一级博物馆。