咸丰五年八月，莆圻激战时，从二千里外赶来看望兄长的刘蓉弟刘蕃也参加了战斗，后中枪而退。战斗结束，刘蓉还营后，见其弟受伤在肚脐旁，气息仅属，于是抚之大哭。弟弟劝慰道：“兄勿哭，这是命也。”25岁的弟弟的死给刘蓉带来了极大的悲痛。此后他回到家乡，无意复出。不久，曾国藩的又一好友罗泽南也阵亡。曾国藩目睹多年征战，亲友相继没世，不禁感慨系之，发出“兵者，凶也”的呼声。
八年正月，在家“守制”的曾国藩请了一位有名的阴阳先生，看相宅第，又相其父的坟地，想要迁葬别处。一日，曾国藩来到刘蓉家，小住了两天，畅谈忘倦。曾国藩是个讲礼数的人。徐乾学的《读礼通考》，秦蕙田的《五礼通考》被公认为是讲礼的名著。曾国藩自上年家居以来，日取二书，朝夕研读。二月时，曾国藩与弟国华商量，欲设立家庙，祭祀曾祖以下，置祭田46亩，庙中收藏亡者的衣物及诰命一轴，祖父的衣饰、几砚、宗器、祭器若干件，书籍几千卷。并分条记于簿上。五月份，曾国藩在胡林翼等一再奏请下，朝廷令其服阕视军。
当时刘蓉只是五品衔，胡林翼密疏荐其才可大用，咸丰帝便下诏令刘蓉的父亲驱其治军。刘蓉的父亲刘振宗，“恢奇有才识”，曾经私下对曾国荃说：“天下之乱已兆，无有能堪此者。其吾涤生（曾国藩）乎？君与湘阴郭君（嵩焘）及吾家阿蓉，皆中兴之资也。”当时天下无事，曾国藩正以翰林官居住京师，听了他的话，很多人都颇感惊愕，但其后皆验。不久刘蓉荐擢知府。
咸丰十年（1860），左宗棠因樊燮案，辞去骆秉章幕僚，不久到曾国藩幕中。行前力荐刘蓉可代他任骆秉章幕僚。刘蓉写信给左宗棠说：“兄佐幕数年，功在桑梓，虽议论繁兴，公论要不可灭。仁兄引退，书荐不孝，惟恐自己才识浅陋，不达时识，连累您的知人之明。如果上书辞退，又怕有乱渎的过失。”对左宗棠的举荐，骆秉章即刻上奏，很快，刘蓉来到湖南充当骆秉章的幕僚。
刘蓉到四川后，骆秉章对他信任不移，选将练兵，使军势日张。同时他还向骆举荐曾国藩几次征召而未能如愿的黄淳熙。黄是鄱阳人，咸丰初为湖南知县，以能吏闻名。骆秉章采纳了刘蓉的建议，亲往黄家，强使入川。曾国藩也久闻其名，并写信召黄入幕，说：
刘霞仙来衡，盛道阁下鹤骨松心，通晓治体，不复践蹈寻常仕宦旧习，郭嵩焘亦称道不已，今又得夏观察书，尤津津推崇。三君子者，皆与鄙人金石至交，许与不妄，用知阁下之风格，不似世间桔槔故态随人俯仰者。国藩从宦有年，饱阅京洛风尘，达宦贵人优容养望与在下者软熟和同之象，盖已稔知之而惯尝之。积不能平，及变而为慷慨激烈之一途，思欲稍易三四十年来不白不黑不痛不痒牢不可破之习，而矫枉过正，或不免流于意气之偏，以是屡蹈衍尤，丛讥取戾，而仁人君子固不当责以中庸之道，且当怜其所激而矫之之苦衷也。顷间奉命赴皖授剿，自维才智短浅，无能为役，欲求宏才伟识，共济时艰，阁下若不弃鄙人为不足与谋，尚祈岸帻棹舟，翩然过我。
但因刘蓉的关系，黄没有到曾国藩的幕下，而进入四川，成为骆秉章的一员大将。
骆秉章遂将五千人交黄统制，并举为大将。后黄战死于定远，但湘军在四川却声名大震。刘蓉也以平蓝大顺、李永和之功，超升四川布政使，升迁之速，军兴以来称第一。同治元年（1862），顺天府尹蒋琦龄上《中兴十二策》，有慎名器一条，参劾刘蓉。刘蓉上疏引退，同治帝谕曰：“刘蓉以湘楚诸生，经骆秉章、胡林翼保奏，受两朝特达之知，不次超升，原与各路军营滥保进者不同。姑无论川省军务正急，不宜遂行乞退，即以朝廷用人而论，黜陡赏罚，一秉大公，果其人才能出众，不妨破格录用，若以后不能称职，该督抚即可随时劾参，朝廷见闻所及，亦必加以摈斥。此中权衡，操之自上，非臣下所能干预。该藩司无所用其引嫌，惟当如常供职，尽心地方公事，以图报称，勉为名臣，不必务退让之虚文也。”
