德意志民族和德意志国家是距今一千年前才形成的。
大约自公元前五世纪起，一些使用同属日尔曼语言的部落居住在欧洲斯堪的纳维亚半岛南部、日德兰半岛、波罗的海和北海南岸。这些蛮族的部落就是现今德意志民族的祖先。
公元前一世纪中叶，古罗马军事首领凯撤大帝在《高卢战记》一书中称他们为日尔曼人，古罗马历史学家塔西佗在公元后一世纪末写了日尔曼尼亚志，从此，“日尔曼”一词便被克尔特入和罗马人渐渐普遍使用起来。但日尔曼人自己却不愿意以此名自称，直到五世纪才开始接受。
现今，凯撤大帝的《高卢战记》和塔西伯的《日尔曼尼亚志》是流传下来记载日尔曼民族当时生活状况和社会制度的最古老的文献资料。
根据他们的记载，日尔曼人当时还处于氏族社会阶段，过着半游牧的生活。以狩猎和畜牧为主，也懂得一点农业。土地归氏族所有。氏族事务由长老掌管，每年分配一次土地。最高权力属于民众大会。民众大会的开会地点选在丛林之中的参天古树之下。议事时，如赞同就发出喝采声，反之就发出不悦之声，以示反对。
他们住在简陌的长方形的房子中，上有大屋顶。中间用篱笆开，人畜各占一头。人住的地方以木头铺地；牲畜占房又被隔成许多小的圈栏，并设有排粪槽。
日尔曼入的家庭是一夫—妻制，这达在古代蛮族中是少见的。尽管女性尚受到尊重，但如妇女与别人私通，就要受到严厉的制裁。
他们信奉多神教。既无寺庙，又无神像，只在丛林中设祭坛。根据日尔曼人的信仰，沃当(wodan)是众神之父。他把在征战中死亡的鬼魂聚集在自己的周围，骑着一匹八蹄公马遨游太空。云彩是他的神袍。每周的星期三就是从他的名字而来的。他的妻人叫弗雷雅，是春神。专司保护婚姻和每家的炊灶。星期五就是因她的名字而得名的。战神提乌，星期二是从他的名字而来的。多纳尔是雷钟，他的武器是一把大锤，乘坐一辆由两匹公马拉的车在太空巡游。在巡游过程中，他用大锤把闪电打入人间，通过雷雨来使庄稼丰登赐福于人，或使庄稼欠收，降灾于人间。星期四就是从他的名字而来的。还有火神罗基等等。
到公无一世纪末，日尔曼的氏族社会开始解体。土地分配不平均，有战功者可多得到土地。从而出现了贵族。但森林、荒地、牧场和水源仍归氏族公有。一些贵族收养亲兵，专门以打仗为生。这些贵族披称之为军事贵族，也就是塔西佗所称的“王”。 这时民众大会虽然还存在，但战争、谈和、土地分配以及对外交涉等重大事宜都要先在贵族议事会上审议，然后才能提交民众大会通过。思格斯称这种氏族部落的管理组织为“军事民主主义底各机关”。
公元五世纪各部落开始结成部落联盟。在476年推翻西罗马帝国之后，日尔曼民族中的西哥特入，东哥特人，勃艮第人，法兰克人，汪达尔人，阿勒曼人和萨克森人等在奴隶制并以基督教为国教的罗马帝国的废墟上建立了许多日尔曼王国。
日尔曼人和克尔特人及当地其他原住居民结合，成为近代德意志、奥地利、卢森堡、荷兰、英吉利、瑞典、挪威和丹麦等民族的祖先。今天英、俄等语言中称德国人、德语和有关德国的事物，仍沿用“日尔曼”一词作为名词或形容词。
查理大帝和萨克森的白马
查理大帝(年在位)是法兰克王国最重要的国王。他的父亲丕平三世(Pippin III)原为日尔曼民族第一个王朝——墨洛温王钥的一名宫相。他于751年篡位，建立加洛林王朝
查理即位后穷兵黩武，不断对外发动战争。其中最艰难的征战是对萨克森进行的侵略。从772年开始到804年征服整个萨克森，先后发动过十八次战争。战争延续了32年之久。
关于萨克森人民的不屈性格，历史上曾有这样一个故事．一次查理车兵攻打萨克森，遇上了很坏的天气。在暴风雨中，他迷失了路途。这时忽然看见前方村处孤零零的宅院，于是便前去登门求宿。刚巧这是萨克森公爵维社金德的宅院，但查理并不认识他。虽然查理带兵前来征战，可是这位萨克森公爵仍然以礼相待。翌日早晨，维杜金德带查理国王来到牧场。查理见有一匹白马十分惹人罢爱，便想抓住它。但他越追，马跑的越快怎么也捉不住，只得扫兴而归。这一切萨克森公爵都看在眼里，于是他向那匹白马吹起口哨，亲切地喊它回来。白马真的乖乖地跑了回来，并在主人的肩头亲来亲去。查理见此情景感慨地说道：“这匹马体现了萨克森人民坚强不屈的性格，用武力是压不服的，只有用亲善的办法才能取得成功。所以，这匹白马应当成为萨克森民族的象征。”至今，红底白马仍是西德下萨克森州的州微。