道光三十年太平天国革命爆发。咸丰元年江忠源应调赴广西，在广州副都统乌兰泰帐下参谋军事，于募勇一营令其弟江忠浚带赴广西之后，咸丰二年又“出私财增募千人”，命其弟江忠济和刘长佑带赴桂林前线，“合新旧所部千七百人，名楚勇”（《湘军人物年谱》（一），第322页。），为湖南勇营出省作战之始。后闻太平军将撤围北上，进入湖南。江忠源遂先期率勇返湘，在蓑衣渡伐树塞河，设伏阻击，迫使顺流而下的太平军弃船登陆，改道道州，不仅失去袭取长沙的最好战机，还造成南王冯云山的牺牲。在太平军围攻长沙期间，江忠源又率勇积极助守，并从太平军手中夺回城外一个带有决定意义的制高点——天心阁，造成太平军攻城的失败和西王萧朝贵的牺牲。太平军的这两次失败，尤其南王和西王的牺牲，不仅在军事上遭受重大损失，简直可以说改写了太平天国革命的历史进程，以致人们在谈论促成其由盛转衰的关键性政治事件天京事变时，都不能不归因于南王和西王的过早去世。而这又直接、间接地同江忠源有关。可以说这是江忠源为湖南官绅和清王朝立下的两大功绩。这年冬天，江忠源率勇镇压了浏阳征义堂起义，因功超擢署理湖北按察使。咸丰三年夏，江忠源又伙同罗泽南、郭嵩焘等人率勇助守江西省城南昌，使太平军始终未能攻克该城。这是他为清政府建立的第三大功。为此，虽然他在田家镇阻挡太平军西征失败，所部新宁勇溃散，仍被清政府任命为安徽巡抚，从而成为曾国藩集团第一个担任地方督抚的人。不料，上任未及两月，新改省城庐州被太平军攻占，江忠源丧命。此时，曾国藩正在加紧编练湘军，本拟先练成水、陆万人统交江忠源指挥，自己仅做些后勤与谋画工作。江忠源的过早去世，完全打乱了他的计划，对这个尚在形成中的军政集团和摇摇欲坠的清政府，都是一个巨大损失。
胡林翼也是办团练较早的人物。道光二十七年胡林翼署理贵州安顺府知府。该地靠近越南与滇、桂边界，山高林密，汉苗杂处，自然地形与社会环境都比较复杂，有的地区则往往成为积年盗匪或小股起事农民的聚集之所。而鸦片战争以来，道光帝“尤畏疆臣生事，各省大吏承风旨，唯务安静”，致使“官吏重发难，益相与粉饰颟顸，无敢擒治。”（《湘军人物年谱》（一），第210—211页。）胡林翼一反成例，力主以重法治乱世，认为“世变日移，人心日趋于伪，优容实以酿祸，姑息非以明恩。”故“居今日而为政”，“治将乱之国，用重刑”，“非用霹雳手段，不能显菩萨心肠。”（蔡锷：《曾胡治兵语录》，民国二十六年铅印线装本，第21页。）他上任后，“延访士绅，寄以耳目，尽得盗匪姓名、状貌及道里远近状，乃躬往缉捕。”“故任事一年，前后擒巨盗二百余名，一郡肃然，盗贼衰息。”为了一举成功，他还选择大年除夕之夜，采取秘密行动。“一日，侦知盗党当以腊尽醵饮某所。除夕，方会燕僚佐，忽起更衣，疾率健捕，夤夜驰至某处，掩获渠魁黄老广、佘饶贵等，其党无一脱者。”（《湘军人物年谱》（一），第211页。）道光二十九年胡林翼移署镇远府知府。这里是苗族、瑶族的聚居地，其黄平、台拱、清江，施秉、天柱等厅、县，已是“寇盗充斥”，而高山、革夷、山丙、沙邦四寨苗民则据险起事，对抗官府。贵州巡抚乔用迁“思募兵进剿”，故调胡林翼署理此府。他上任伊始即“添卡哨、购眼线、信赏必罚”（《湘军人物年谱》（一），第212页。），待其一切准备就绪，便调兵进剿苗寨。他先带兵攻占高山寨，又集中苗、汉兵勇近二万人剿平革夷、山丙、沙邦三寨，杀人放火，无所不用其极。因功升即用道，补授黎平府知府。黎平地接广西，形势更为紧张。因为那里不仅有业已在金田起义的太平军，还有遍布全省的天地会起义部队，随时都可能冲入贵州，黎平则首当其冲。故胡林翼既要靖“内匪”，又要备“外寇”。他认为，“欲清内匪，莫如保甲；欲御外寇，莫如团练”，遂于力行保甲连坐的同时，“又以差役营兵窳惰不可用，乃自练壮勇百名，仿明参将沈希仪、嘉庆时傅鼐因间雕剿之法，分巡游徼。”（《湘军人物年谱》（一），第216页。）行之数载，取得显著成效。在此期间，“办团练千五百余寨，建碉楼四百五十余座，连屯相望。”又“劝富民捐谷置仓，以备城守”（《中兴将帅别传》，第15页。）。是以黎平叠被攻击而未破，瓮安聚众抗粮亦被平息，胡林翼遂成远近闻名的能吏。其“杀人如麻”（《清代通史》，第3册，第379页。）之说及“胡屠户”的徽号，皆由此而起。胡林翼与曾国藩一样，似有杀人之癖，每到一处，首先想到的就是如何杀人。他担任湖北巡抚之后，于咸丰六年十二月上一奏疏，其架式和办法，恰是其贵州屠户勾当的继续。疏称：“湖北莠民之从贼者，以兴国、崇阳、通城、通山、大冶、广济、黄梅为最多。臣于臬司任内，由岳州驻崇阳一月，以保甲之法，勒令首户捆斩三千人，未及毕事而驰往九江矣。”又说：“兵至为民，贼来从逆，及今不治，终必为乱。治之之法”，“唯有保甲清查，户族捆献，分别斩释之法。”（胡林翼：《胡文忠公遗集》，同治六年刊，第14卷，第4页。）
在曾国藩集团中，李鸿章是在籍办团练时间最久的一个。李鸿章在京为官时，其父李文安也在京为官，任刑部督捕司郎中。太平天国革命爆发后，军势尚未及于安徽，李文安即“寄信回里，劝谕乡人先为思患预防之计”（光绪《续修庐州府志》，第34卷，宦绩传二，第12页。）。在他的影响下，合肥一带很快办起地主团练武装，其著名团首有桐城马三俊，庐江吴廷香、吴长庆父子，合肥张树声、张树珊兄弟和周盛波、周盛传兄弟，以及刘铭传、解光亮、潘鼎新之父潘璞、李鸿章之弟李鹤章等，在安徽以至全国都成为团练武装较为集中的地区。李鸿章也力主以地主团练武装镇压当地的捻军起义，对抗太平军。他在京任职翰林院编修时，颇“以文字自喜”，常为安徽同乡吕贤基“草疏言事”。吕贤基字鹤田，安徽旌德人，出身翰林，官至工部右侍郎，兼署刑部左侍郎，是个尊崇程朱理学，既贪生怕死又希图美名的封建官僚。太平军声势浩大，方兴未艾，前线不断传来清军失败的消息。在一般官员看来，以草草组建的乡勇迎击太平军，无疑于以卵击石，自取灭亡。吕贤基自己亦持这种看法。但其自太平天国革命爆发以来，接连上疏倡办团练，仅后来出版的《吕文节公奏议》中即有“数疏谈论团练事宜”（樊百川：《湘军史》，四川人民出版社1994年版，第4页注释。吕贤基谥文节。）。咸丰三年正月太平军攻克安徽省城安庆，消息传到北京，李鸿章闻讯惊慌，急忙跑到吕贤基家，怂恿其上奏请求派京中官员回籍办团练，吕“即令其代制而允具名焉”。本来，他们并不打算力践奏折中的做法，而是要别人去送死。而军机大臣祁寯藻却看透了吕贤基的用心，偏偏就建议派他回籍办团练。咸丰皇帝允准，当天便发布谕旨，命其即刻启程。于是，由此引出一场闹剧，同时也改变了李鸿章一生的道路与命运。淮军将领刘秉璋之子刘体智曾对此作过生动地描写。次日下午，李鸿章“心念昨事，驾车往见文节，及门，闻合家哭声如有丧者。登堂，文节自内跳而出曰：‘君祸我，上命我往。我亦祸君，奏调谐行。’是日，文节召对，上大哭，文节亦伏地哭。”（《异辞录》，第1卷，第6页。）咸丰二三年间，清政府先后任命四十三名团练大臣，除吕贤基外皆属因故在籍的官员，只有这位在京任职的工部侍郎算是一个例外。
当时安徽是太、清双方激烈斗争、反复争夺的地区，地方官员更换频繁，先后有几位巡抚丧命或革职，吕贤基也很快命丧黄泉。咸丰三年正月太平军攻克安庆，安徽巡抚蒋文庆战死。二月清政府命周天爵署理皖抚，旋实授。旋又改任李嘉端为巡抚，命周天爵以兵部侍郎衔办理防剿事宜。九月李嘉端革职，任命江忠源为安徽巡抚。十二月太平军攻克安徽新改省府庐州，江忠源兵溃自杀，清政府又任命福济为安徽巡抚。吕贤基也于这年十月率六百乡勇防守舒城时城破被杀。一年之内四易巡抚，又有周天爵、吕贤基穿插其间，皖北半省之地三帅并立，各争雄长，事权不一，动多掣肘。李鸿章在他们手下办事，又处于太平军的军事重压之下，其艰难竭蹶可想而知。由于福济是李鸿章的座师（丁未科会试副考官），与李鸿章有师生之谊，对李鸿章甚为扶持和护佑，一抵任即将他收入幕府，使其处境大为改善。刘体智甚至说，连他那套“时时以不肖之心待人”的“治军之法”，即“不使诸将和睦、预防其协谋为主帅害”的驾驭部将之术，亦“似传中丞（指福济）衣钵”（《异辞录》，第1卷，第10页。）。
咸丰三年秋冬，李文安经户部左侍郎王茂荫奏保，回籍督带练勇，但很快死去。临终仍不忘以镇压太平军、捻军为己任，手书训谕诸子说：“贼势猖獗，民不聊生。吾父子世受国恩，此贼不灭，何以家为？汝辈努力，以成吾志！”（李鸿章：《李文忠公遗集》，第4卷，第2页。）李鸿章对此牢记在心，誓与造反农民为敌。怎奈太平军声势浩大，自己所带练勇又不堪一击，若要想保命，也就只有争先逃跑之一法。李鸿章回籍带勇作战，前后五年有余，总的看是胜时少而败时多，且胜亦小胜，败则大败。有人统计，他曾先后五次从死亡之地逃脱性命，其中三次属于临阵脱逃（参见樊百川《淮军史》，第5—8页。）。第一次咸丰三年十月与吕贤基共守舒城，城破吕死，他先事逃走得免。第二次同年十二月太平军攻克庐州，江忠源及守城官绅丧命，李鸿章因没有率勇入城助守而幸免。第三次咸丰四年李鸿章奉命助守巢县，太平军发动突袭，清军惊溃，营盘被毁，他因奔丧离营幸免。第四次咸丰六七年间李鸿章驻守巢县，太平军为进军庐州途经该城，所部团勇惊溃，他因奔逃迅速保住了性命。第五次约在咸丰八年，李鸿章在合肥东南的葛洲新茔为其父服丧守庐。太平军大军云集，志在夺取庐州。他闻讯奉母北逃，远走盱眙县明光镇。太平军攻克庐州，将李家祖宅“焚毁一空”，却未能伤着李鸿章的一根毫毛。刘体智曾就李鸿章如何溜出危在旦夕的舒城，亦即第一次临阵脱逃的经过，作过生动具体地描述：“文忠从文节至皖，等于徒手。官军见寇即走，屡败不振；乡勇乌合，不堪一试。文节以客官，更无能力应敌，驻守舒城，闻寇将至，议守御，文忠与焉。封翁（指李文安）在庐州办团练，老仆刘斗斋久役于封翁京寓中，时随至舒城。见事急，密引文忠至僻处告之曰：‘若辈死耳无可避免，公子何为者？独不念老人倚闾而望乎？’文忠悚然问计：刘斗斋日：‘马已备。急驰去而免。’”刘体智还说：“其后，文忠有田百顷在英、霍之间，命刘斗斋之子某甲为收私租，十年无所得，召往问之。某甲呈簿，入不敷出，须益以三千余金，出入乃能相抵。文忠怒以足蹴之，亦不之罪也。”（《异辞录》，第1卷，第7页。）此事经淮军将领刘秉璋之子讲出，已使人觉得有几分可信，复证以李鸿章不忘刘斗斋旧恩的事例，更令人感到绝非无中生有。更为严重的是，李鸿章仿佛由此悟出“临危先逃”这一临阵应敌的诀窍，只是在屡试不爽之下，名声愈形不佳，成为全省有名的长腿将军。据当时正在和春幕中的一位幕僚记载，一次，太平军攻打巢县附近的柘皋，李鸿章闻风先遁，“以致官军营垒数十座均被破入，兵勇死者不可胜计，仅存河州镇总兵吉顺一营”，太平军日夜环攻，形势岌岌可危。和春闻讯带兵赶至，“吉营重围立解”。“次日李鸿章来见，称誉‘声威大震，以军门（和春时任江南提督）为最’，而军门答以‘畏葸溃逃，当以阁下为先’。”李鸿章“赧颜而退，大江南北至今传为笑谈。”（太平天国历史博物馆：《太平天国史料丛编简辑》，中华书局1962年版，第1册，第36，37页。）由于李鸿章所带勇营一溃再溃，本人也屡屡临阵先逃，在安徽官绅中遂渐渐失去信任，不再为人们所看重。咸丰七年秋李鸿章丁忧服阕，本应复出带勇，而安徽巡抚福济却上奏清廷，“李鸿章丁父忧服阕，俟经手事件料理完竣，给咨回京供职。”（《曾文正公奏稿》，第11卷，第4页。）这就是说，让他“京来京去”，不要再在安徽带勇了。清廷批准这一奏请，以李鸿章叠次“剿匪”出力，交军机处记名，遇有道员缺出，请旨简放。这样，李鸿章既无法在安徽立足，又不想马上回京，便一时游荡不定，成了孤苦无依的闲人。
总结其时近五年的统带乡勇的经历，虽谓逆多顺少，处境不佳，但亦并非一无所获。第一，于翰林院编修之上，又得到一个按察使衔记名道员的官阶，以致成为曾国藩幕僚中，入幕之初官阶最高者之一。第二，在政治和军事方面受到锻炼，取得一定的实践经验，不仅具备“久历戎行，文武兼资”（《曾文正公奏稿》，第11卷，第4页。）的资历，而且学会驾驭部将之术。这个集团中善弄权术者，胡林翼之外，恐怕就数李鸿章了。第三，数年之中经常统带庐州地区的团练武装作战，遂与合肥数县的团练头子，如刘铭传、张树声、周盛波、周盛传、潘鼎新、吴长庆等，形成较为牢固的上下级关系。这些人也就在政治上和军事上成为李鸿章的组织班底。所有这一切，都为他未来的发展奠定了较为坚实的基础。
左宗棠对抗太平天国革命的历史是从咸丰二年开始的，只是长期充当湖广总督和湖南巡抚的幕僚，主要在背后出谋划策，尚未直接带兵作战。咸丰二年八月正当太平军围攻长沙期间，新任湖南巡抚张亮基抵任，经胡林翼的推荐和张的一再派人诚聘敦请，尤其左宗植、郭嵩焘的大力劝导、推动，怀才不遇、愤世疾俗的左宗棠方离开其避难之所，入湖南抚衙充任幕僚，张亮基“一以兵事任之。”（《左宗案年谱》，第30页。）他感其知遇之恩，一入幕府就“日夕区画守具”，积极出谋划策，长沙得以保全，有左宗棠的一份功劳。据称，当太平军开挖地道、攻城甚急之际，是左宗棠“请调邓绍良、瞿腾龙率八百人入（城）助守”的，其后“地雷”炸塌城墙，“邓绍良所部力捍之”（《左宗棠年谱》，第31页。），以是省城未被攻破。太平军撤围北上之后，左宗棠又“助张公一意以整饬吏治、捕治会匪为务”。“江忠源讨平征义堂，实受方略于左宗棠，发谋决策皆宗棠任之，张亮基受成而已。”（郭振镛：《湘军志平议》，岳麓书社1983年合刊本，第199页。）这年十二月，湘抚张亮基奏请，妥“委明干官绅，选募本省有身家来历、艺高胆大之乡勇一二千名，即由绅士管带，仿前明戚继光束伍之法行之”，俟奉旨帮办团防的丁忧在籍侍郎曾国藩到省，“当面相商榷，妥为办理”（左宗棠：《左文襄公全集·张大司马奏稿》，萃文堂光绪十六年刊，第1卷，第35页。）。此奏不仅出自左宗棠之手，亦恐出自左宗棠之谋，同曾国藩的想法可谓不谋而合，编练湘军之议即始发于此。咸丰三年正月张亮基调署湖广总督，左宗棠随至武昌。九月张亮基调任山东巡抚，左宗棠辞归。
