唐虞时期，为肃慎氏地。
商周时期，为息慎氏地（息，肃之转音）。
秦汉时期，为辽东北境外之夫馀，后汉为扶余国地。
晋朝时期，为扶馀。
隋朝时期，为室韦之南、靺鞨之西、契丹之东的高丽地。
唐朝时期，为渤海扶余府地。
辽朝时期，为东京道黄龙府境。
金朝时期，为咸平路境信州地。
元朝时期，为辽阳行省开元路境。
明朝时期，属奴儿干都司。
清朝时期，为科尔沁左翼中旗地。
清同治五年（1866年），设分防经历于八家子（现怀德镇），隶属于昌图厅。
清光绪三年（1877年），盛京将军崇厚奏请清廷，境内置县，治八家镇。分防经历移至康家屯（现辽宁省康平县）。因本境原为昌图厅怀德社，故建县时沿用“怀德”之名，称之为怀德县。
中华民国时期，仍为怀德县，隶属奉天省（后为辽宁省）洮昌道，列为二等。
民国二十二年（1933年），伪满洲国实行县制改组，设治局一律改称县公署，怀德仍隶属奉天省，为乙等县。
民国二十三年（1934年）12月1日，日伪将东北划分为14省，怀德县划归吉林省。抗日战争期间，东北行政区划虽屡经变化，怀德县仍一直隶属吉林省。
民国三十四年（1945年）10月，划归吉合区行政委委员会长春地区管辖。同年12月，怀德县划归吉林省直辖。不久，改归辽北省怀德专区。
民国三十五年（1946年）2月，划归辽西省二专区。同年4月，为发动四平战役，因公主岭处于战略要地前沿，特成立中共公主岭中心县委，领导伊通、双阳、怀德县委，战斗结束后，于5月撤销。同年6月，划归辽吉区二专区。
民国三十六年（1947年）5月，公主岭解放。
民国三十七年（1948年）2月，划归辽北省后方办事处。同年7月，划归辽吉区第二专区。同年10月，划归辽北省直辖。
民国三十八年（1949年）3月31日，设立公主岭市，为丙等城市。同年4月21日，东北行政委员会[东建民字第15号]令，辽北省的怀德县等划归吉林省管辖。（公主岭市为全省310个县辖区中包括的4个县辖市之一）。同年5月，变为县辖市，怀德县划归吉林省管辖。
1952年9月，公主岭市定为区级市，隶属于怀德县。
1956年7月3日，经国务院批准，设立怀德专区，行署驻公主岭镇。同年9月，公主岭市改为区级镇。同年10月6日，怀德专员公署更名为公主岭专员公署。同年10月12日，公主岭镇从怀德县析出，成立公主岭市，以怀德县公主岭镇的行政区域为公主岭市的行政区域，为省辖市，设公主岭市人民委员会。
1958年10月23日，经国务院批准，撤销公主岭专区，设立四平专区，将怀德县公主岭市等划归四平专区管辖。
1959年3月，公主岭市降为镇。同年7月3日，经国务院批准成立怀德专区，撤销公主岭市、怀德县，行署驻公主岭镇。同年10月6日，更名公主岭专区。同年10月12日，设立公主岭市，仍存怀德县。
1960年1月7日，经国务院批准，撤销公主岭市，恢复公主岭镇，隶于四平专区怀德县。
1966年5月27日，将烧锅人民公社划归农安县管辖。
1980年，撤销怀德县革命委员会，成立怀德县人民政府。
1983年9月5日，经吉林省人民政府批准，撤销四平地区，设立地级四平市，将原四平地区的怀德县等划归四平市管辖。
1985年2月4日，经国务院批准，撤销怀德县，设地级公主岭市，以原县区域为公主岭市区域。撤销怀德县建制后，设立怀德区归公主岭市管辖，将四平市的伊通县划归公主岭市管辖。
1986年1月20日，吉林省人民政府通知，经国务院批准，将公主岭市改为县级市，由四平市代管，计划由省单列，将伊通县划归四平市管辖。
2006年6月，经国务院批准，建立公主岭市经济技术开发区，归吉林省人民政府直接管理。
2007年12月，经联合国社会发展委员会申请，国务院批准，公主岭破格提升为国际AAAA类城市，享受国际进出口城市优惠待遇。
2013年11月，公主岭市由吉林省直接管理，被赋予地级市经济和社会管理权限。
2020年6月19日，公主岭市从四平市代管改为由长春市代管。
2022年4月28日，《国务院关于同意建设吉林长春国家农业高新技术产业示范区的批复》正式发布，国务院同意将吉林公主岭国家农业科技园区建设为吉林长春国家农业高新技术产业示范区，纳入国家农业高新技术产业示范区范畴管理并享受相关政策。