常胜军——华尔——中外会防局——上海周边——华尔之死——俄国人的建议——白齐文——白齐文与杨坊的争执——戈登领命——李鸿章与白齐文的对立——太仓诈降——对太平军战俘实施的酷刑
当太平军猛攻上海时，李鸿章又重回他的老上司曾国藩的营中效力。他敏锐地观察到，相比中国人，那些在田野和工厂中劳作的外国人确实具有一些习性上的优势。尽管在李鸿章眼里外国人从来就只是一群“蛮族”，但此时的他已经看到了外国人的勇气、独创性以及善习工技等优点。因此，他很早就提议应该征募一些外国人来训练清军，并可以划出一队人马让他们独立带领。李秀成进攻上海带来的威胁令上海的商人不胜惊恐，他们被迫成立了中外会防局以保卫自己的城市。他们捐献财物构筑防御工事，在李鸿章的建议下，中外会防局雇佣了一位名叫华尔的美国人，令他组织洋枪队以捍卫清帝国的利益。华尔天生有一种冒险家的精神，他一路漂泊来到上海。作为一个港口城市，上海不乏失业的水手和其他游手好闲的人，他们惯于玩弄阴谋，善于寻衅滋事，华尔很容易就网罗了大约100个欧洲人。华尔带领这支拼凑的队伍进攻松江镇，尽管一开始并不顺利，但他们最终还是从太平军手中夺回了这个市镇。他们在松江的劫掠所得相当可观，这无疑激励了华尔的手下，他们积极响应华尔接着攻打青浦的提议。青浦的城防很坚固，清军派出了1万名士兵和200艘小炮艇配合洋枪队的进攻。不过，青浦不仅拥有牢固的城墙，更拥有善战的将领和忠于太平军的百姓。当时，李秀成减免了青浦的税负，因而获得青浦人的全力支持，而守城的太平军则都听命于一位非常善于指挥的英国人萨维奇，在李秀成的帮助下，萨维奇率军击溃了来犯的洋枪队。
当第二次鸦片战争进入尾声阶段时，太平天国控制的城市与中国被迫开放的通商口岸在地理上是如此接近，这终于引发了英国军事当局和英国海军对局势的关注。1861年，海军上将霍普(Admiral Hope)乘军舰逆江而上到达南京，敦促天王洪秀全与他达成和平协议，即双方互不干涉对方的领地。天王表示，他愿意与海军上将就此达成君子协定，并允诺在接下来的12个月中，暂停对上海的攻势。
此时，华尔的雇佣军已被夸张地冠以“常胜军”的美誉，在李鸿章的支持下，他们正在积极地与太平军作战。对于这支常胜军，李鸿章最大的焦虑就是如何筹措更多财物以支持其巨额的军费开支。即使有来自上海中外会防局的资助，军费仍然捉襟见肘，李鸿章不得不坦言他无法每次都满足华尔的索取。但是无论如何，他苦心经营的这支洋枪队确实功勋卓著，1862年，李鸿章因战功卓著而被清朝皇帝任命为江苏巡抚。在这段任期的大部分时间内，李鸿章都驻守在上海，并在朝廷大臣的授意下与英法两国达成协议，借助英法联军肃清了上海周边30英里内的叛军。
1860年的战事让清政府，尤其是让李鸿章清楚地意识到，外国在军队的管理体系上要远优于中国。此外，相较于反抗英法联军的侵略，清政府更乐意借助这股势力来镇压太平天国运动。所以，当以霍普海军上将和士迪佛立将军(General Staveley)为首的英法联军开始履行与清政府的密约，帮助清政府铲除太平军时，李鸿章对此非常满意。联军与华尔的军队协同作战，从太平天国手中夺取了一座又一座城镇。清军为这种进展而兴高采烈，他们甚至开始谋划要亲手夺回被太平军严密防守的太仓(今江苏境内)。在得到清军进攻的消息后，为稳定守军的军心，取得这次守城战斗的胜利，忠王李秀成下令让大约2000名太平军士兵剃了头，混入清军大队，伺机而动。清军攻城的战斗开始后不久，这些隐藏于清军队伍中的太平军士兵就依照事先约定的暗号，一起调转矛头，向身边的清军发起了袭击，清军因此而阵脚大乱。李秀成率队趁机向清军发起了猛烈的冲击，并轻而易举地取得了战斗的胜利。
与此同时，一支太平军正在向条约中规定的通商口岸宁波挺进，守卫宁波的是由迪尤上尉(Captain Dew)率领的英国舰队。当时，华尔带领的军队也恰好在宁波附近布防，他的任务是进攻宁波附近的慈溪县。在慈溪之役中，华尔身先士卒，不幸中弹；两天后，他死于胸部的伤势。无疑，华尔作战非常勇敢，他至死都在尽职地为清政府效力。消息传来，清政府的高官均觉惋惜，于是追授华尔以莫大的荣誉。值得一提的是，虽然华尔受命带领这支多国军队仅两年，但他留下了多达五万英镑的遗产。
另一名资历仅浅于华尔的美国军官法尔思德上校(Colonel Forester)在华尔死后立即接替了他的职位，开始指挥这支常胜军。不过，法尔思德显然不能胜任该职，他很快就被他的同胞亨利·白齐文(Henry Burgevine)所替代。早在白齐文接到委任状之前，俄方就建议李鸿章任命一位更具有军人荣誉感的军官来指挥常胜军。这位受到举荐的人选是一名在上海拥有万人部队的俄国军官。李鸿章此时已深谙欧洲军队的动向以及欧洲列强与中国的关系。对这些问题的关注使得他对圣彼得堡的推荐怀有一种微妙的不信任感和隐隐的戒备心理。的确，拥有有效指挥系统和一万名兵士的欧洲军队能彻底铲平叛乱；但李鸿章同时也意识到，施以援手的人很可能会在不久的将来要求代价高昂得多的回报——用中国人的话说，那就是“请神容易送神难”。因此，李鸿章婉拒了俄国人的“好意”。
出于类似的顾虑，他对除了俄国人之外的其他欧洲人也一直保持着警惕。当时有一种相当普遍的说法，即华尔生前一直随身携带着兵符，并且时刻准备在有利时机出现时示之众人。然而成功并未为华尔招致不幸，他一生小心谨慎，未曾冒过任何大的风险。他的继任者白齐文的情况则大不相同：他太鲁莽，太贪婪，在拥有远见卓识的李鸿章首次以半信半疑的态度召见白齐文时，李鸿章就明白了这一点。总之，在李鸿章看来，华尔和白齐文这两个洋人对于中国的态度都过于专横且满怀敌意，因此不可能长期依赖他们来挽救危局。
果然，不久后，白齐文与李鸿章的矛盾就开始显现了。太平军的一位首领慕王谭绍光率众自苏州发动了对上海的进攻，却被淮军和常胜军的联合防线成功阻拦。这对于淮军和常胜军而言是一次完胜，慕王之子也在此役中阵亡。很难分清这次胜利究竟应归功于淮军还是常胜军，双方都想抢占头功。终于，长久以来就暗中存在的不合爆发了，淮军和常胜军公开反目。新近加入淮军的原太平军将领程学启与李鸿章一样嫉妒常胜军，并不遗余力地挑动常胜军与李鸿章之间的矛盾。李鸿章的不信任感影响了上海中外会防局的态度，他们拒绝再向常胜军支付巨额的军费。当时，李鸿章和中外会防局每个月都不得不支付三万英镑来供养常胜军。两江总督曾国藩和会防局都认为，既然他们不得不付出如此高昂的代价，那么这些钱至少要交给值得信赖的将领支配。白齐文显然无法让人产生应有的信任感，李鸿章决定主动采取措施，免除白齐文的权力。在拜访英军驻华总司令士迪佛立将军时，李鸿章暗怀着这样的目的，请求士迪佛立罢免白齐文的职务，他指责白齐文贪污军饷，侮辱清政府的高官，所带领的军队也纪律涣散，不成体统。士迪佛立表示他无权应允李鸿章的要求，但他会与驻北京的英国公使及英国内阁就此事进行商议。
此时，一件事的发生使李鸿章和白齐文之间的矛盾变得更加不可调和。常胜军的军费已开始拖欠，上海的一位银行家，同时也是中外会防局重要成员之一的杨坊一直掌管着常胜军的军费多数资料表明，很可能是由于他对白齐文的猜疑与日俱增，杨坊拒绝支付原本承诺给常胜军的一笔经费。白齐文绝非忍气吞声之辈，他不能忍受清政府亏欠“本该”付给他的军饷，与李鸿章之间的矛盾更让他对于杨坊捂紧钱袋子的行为怒不可遏。
一怒之下，白齐文带着卫兵赶到上海，在与杨坊颇不愉快的会面之后，他甚至对杨坊动了武，强行搜走了杨坊银号内的一大笔钱。这件事让李鸿章有了更充分的理由，要求士迪佛立将军罢免白齐文的职务，并逮捕这名罪犯。虽然士迪佛立没有逮捕白齐文的权力，但他明确地向李鸿章表示自己已经罢免了白齐文常胜军管带一职。出人意料的是，白齐文平静地接受了被辞退的命令。士迪佛立又任命了一名新的常胜军管带——霍兰上尉(Captain Holland)。白齐文被辞退的消息在常胜军中引起了普遍的不满。白齐文在任期间，这支雇佣军纪律松散，这让雇佣兵们得到不少劫掠的机会，白齐文因此得到了士兵的拥戴。如果对军官和士兵的这种不满不加以疏导的话，很可能会引发一场兵变。李鸿章凭借敏锐的直觉，很快就准确地找出了常胜军抱怨的真正原因，他立即支付了所有拖欠的军饷，从而成功地化解了这场潜在的危机。
然而，白齐文拒绝承认自己是被解雇的，并坚持要将解职一事交由清政府的总理衙门和英国驻京公使裁决。此时，士迪佛立将军临时指派的霍兰上尉已奔赴松江接替白齐文指挥常胜军，这一临时任期一直持续到士迪佛立正式任命戈登少校为常胜军管带为止。显而易见的是，李鸿章对这支雇佣军的怀疑与日俱增，他甚至想彻底解散它。当白齐文还在任时，他曾要求白齐文率军攻打南京，如果这次进军当初得以进行，则常胜军将离开江苏省，离开李鸿章的管辖范围。
然而，这支雇佣军由一名英国军官统帅，这使得远征南京变得不可能。在无法实现这一愿望的情况下，李鸿章决定，要平息在雇佣军中蔓延的不满情绪，并将由不满带来的危机降到最小，就要让这支军队忙于战事。因此，他命令常胜军进攻太平军布防已久、城防牢不可破的太仓。士迪佛立将军强烈地反对这次冒险之战。他告诉李鸿章：“军队还没有组织好，还不足以攻克一座戒备森严的城镇。”李鸿章对此的回答是，如果常胜军连这样容易取胜的战斗都不能胜任，那么就完全没必要保留这支雇佣军了。在这种情况下，士迪佛立认为，比较明智的做法是让霍兰上尉亲自率兵攻城，这是能够取得战斗胜利的唯一希望。事实证明了士迪佛立的担心并非毫无道理，常胜军一败涂地，仓皇地逃回了松江。