早在新石器时代，大余境内就有人类居住与活动。
夏商周时代属古扬州域。
春秋战国时，先属楚，后属吴，越灭吴后属越国，楚灭越后复属楚国。
秦始皇统一中国后，分天下为三十六郡，大余属九江郡，秦三十三年(前214年)，置南野县，大余属之。
至西晋属南野县地。
南北朝梁大宝元年(550)，将县地由南康郡转属广东东衡州始兴郡。
陈？太建十三年(581)，归始兴郡分置安远郡。
隋开皇十年(590)，改安远郡为大庾县，隶属广州总管府始兴郡，此为大余建县之始。
隋开皇十六年(596)，废始兴郡，大庾县亦由县改为大庾镇，复入虔州南康县。
唐神龙元年(705)，复名大余县，隶属江南西道虔州。
此后，除领属关系变化之外，大余建县历史不变。