常胜军前身是1860年6月由美国人华尔在上海建立的洋枪队。当时正值江南大营败亡，太平军忠王李秀成的大军连克苏、常，进抵上海城下。时清军已溃不成军，苏松太道吴煦一面向驻上海的英法军队求助，一面与上海富商杨坊赞助美国人华尔（Fredrick Townsend Ward）建立了“洋枪队”，驻营松江广福林，配备西式武器，照西法组织训练。开始只招募了数百吕宋人为雇佣兵（清政府文函中称为“黑鬼”），以欧美人为军官（“白鬼”，多为逃兵、水手等）。

华尔照片

1860年7月15日，松江太平军陆顺德部主力进军上海七宝，洋枪队在清军参将李恒嵩部配合下，乘虚袭占松江，首战告捷。但紧接着在8月9日的青浦之战中遭到李秀成的反击，损失惨重，丢失大炮十余门。不久以后，洋枪队曾被英海军提督何伯遣散，华尔也曾一度以危害及租界安定的名yi被逮捕，旋无罪开释。　

到1861年下半年，华尔在上海官绅和富商的资助下，重建了洋枪队。这次改以招募华人为士兵，而以西人为军官，华尔自为统领，美国人白齐文（Henry Andred Burgevine）、法尔思德（Edward Forrester）为副统领，初拟编练八百人。到1862年初，洋枪队发展至一千二百余人。2月5日，洋枪队在天马山击败太平军，14日由江苏巡抚薛焕正式授予“常胜军”的番号。之后，常胜军与英法军和清军一起，凭借优势的火力，先后在高桥、肖塘、泗泾、王家寺、周浦、南翔、嘉定诸战中连连得手。虽在6月份一度在青浦被李秀成围歼一部分，但总的力量仍呈发展态势，达四千五百人。

到1862年秋时，常胜军发展到了鼎盛期，总人数多达六千五百人，编为五个步兵团和一个狙击兵团，分别装备滑膛毛瑟枪和恩菲尔德来复枪。

常胜军的炮兵非常强大，也是头一支主要由华人组成的近代炮兵部队，编成四个攻城重炮中队和两个野战炮中队。配有二十四磅榴弹炮三门、十二磅过山炮十八门、三十二磅榴弹炮四门、八英寸口径大炮两门、臼炮十二门，火箭筒若干具。

此外，华尔常胜军还有一支庞大的内河舰队，有轻便战船三百余艘（后期减至五十余艘），每艘装有六磅或九磅炮一门；装甲汽轮三十二艘，各有三十二磅炮和十二磅炮一门。

华尔于1862年9月在慈溪阵亡后，经白齐文、奥伦先后统带后，于1863年3月由英军少校戈登继任统领。戈登时期常胜军编制稍作调整，因新任江苏巡抚李鸿章的要求，人数下降到三千五百人左右。但炮兵变化不大，仅将中队改称连。炮兵连的人员编配，依装备火炮的种类而定，一般在144－174人之间，通常包括正副连长各一名、上尉两名、军曹一名（以上为西人）、旗手军曹一名、军曹六名、伍长十二名、炮手一百二十至一百五十名（以上为华人）。所配火炮的形制与前无大变化，数量略有增加。

常胜军在苏南诸战役中协助淮军，出力甚大。因英法军的行动仅限于上海附近，故当淮军打出上海后，全由常胜军配合作战。因当时淮军初换洋枪，炮队较少而不齐，每至攻坚，往往仰赖常胜军甚多。常胜军中的重炮，如三十二磅炮，在太仓、昆山及以后的苏常等地的攻坚战中起了非常重要的作用，常胜军中的一些主力火轮，如“海生（Hyson）”号、“飞而复来（Fire Fly）”号等，都是载有三十二磅和十二磅榴炮的攻城利器。正因为此，戈登以后益发跋扈难制，李少荃虽派有副将李恒嵩会办常胜军管带，亦愈感棘手。待1863年12月苏州杀降发生，两人几乎势同水火。虽几个月后经过赫德调解，常胜军再次参战，但李、戈两人之间的裂痕难以弥合。到了1864年5月，李鸿章终于奏请朝廷批准，花银十万两将常胜军给资遣散。但留下其精华：炮队六百人与洋枪队三百人，编入淮军序列。

藉此，中国近代炮兵的雏形初现！

藉.此，中.国.近.代.炮.兵.的.雏.形.初.现！

除了常胜军外，还有中法混合的“常捷军”（即“花头勇”）和中英混合的“常安军”（“绿头勇”），该两军的军制与“常胜军”相似，在浙江作战。左宗堂经略浙江，麾下洋炮很少，攻坚多赖“常捷军”的炮火。例如1864年3月的杭州之战，太平军守军在常捷军的炮轰下弃城而走，结果途中大部被左军歼灭，便是一例。