从古代到宋代，泰山治鬼的传说和历史在中国文化中广泛流传，并且有着深厚的历史渊源。后汉时期已经有关于泰山治鬼的说法。《后汉书·乌桓传》中提到，乌桓人的习俗认为人死后，灵魂会游历赤山，就像中国人死后灵魂归岱山一样。《许曼传》中也提到，许曼年轻时曾因病拜访太山请命。干宝的《搜神记》中也有关于胡母班死后去见泰山府君的故事。《三国志·管辂传》中，管辂对其弟说：“但恐至泰山治鬼，不得治生人。”刘桢的《赠五官中郎将》诗中也提到：“常恐游岱宗，不复见故人。”应璩的《百一》诗中说：“年命在桑榆，东岳与我期。”裴松之注《三国》引《列异传》中提到蒋济子死后梦见自己成为泰山伍伯，后来孙阿成为泰山令，蒋济子得以转录事。《博物志》中提到，泰山是天帝的孙子，主管召唤人的灵魂。东方万物开始生长，因此了解人的生命。《古乐府》中有诗句：“齐度游四方，各系泰山录。人间乐未央，忽然归东岳。”这些都表明泰山治鬼的观念在汉、魏时期已经盛行。顾宁人认为，哀、平之际，谶纬书出，有《遁甲开山图》提到泰山在左，元父在右，元父知生，梁父知死等说法。他认为泰山治鬼的观念起源于西汉末年。王僧孺致何炯书中也有“还魂斗极，追气泰山”的说法。《南史·沈攸之传》中提到沈僧昭自称为泰山录事，能记人吉凶。《北史·段晖传》中提到有童子与段晖同学两年后离去，称自己是泰山府君子奉敕游学。这些都是唐以前关于泰山的故事。宋代的《稗记》中提到崔公谊任莫州任丘簿时遇到地震，后来有人告诉他已经被收魂到岱山。孙默、石倪、徐楷相继为泰山府君。《夷坚志》中提到吕辨老得到一枚印有“泰山府君之印”的印章。王太守借观后不久去世，人们认为他必定主岱岳。张廿三死后，其子赘婿陈昉主家事并害死其子。后来张同一黄衣者向陈索命，黄衣者要求先在泰山府君处下状。藤迪功妻赵氏杀死其妾陈馨奴后死去并失去头颅，陈馨奴现形提头示人称已诉岳帝得报此仇。这些故事都表明泰山治鬼的观念在宋代仍然存在。