长安乱平之后，董卓上疏天子，奏请追赠张济为车骑将军，谥庄侯，因其无后，遂以其侄张绣袭爵。董卓又表奏张绣为奋义校尉，领张济本部人马，驻军汝南。董卓之奏，天子不敢不从，一一照准，张绣领旨，待张济丧事已毕，便引军取道洛阳，往汝南去了。
张绣往汝南去，路过兖州地界，远远便看到曹操领诸将在道旁迎接。二人见礼毕，曹操开口问道：“将军自长安来，临行之时，相国可有什么嘱托啊？”
张绣道：“相国并无特别的嘱咐，只是告诫我说，兖州、豫州能重归王化，全赖征西将军曹公之力，此番派我驻兵汝南，诸事皆该以曹公为首，遵曹公号令。”
曹操忙道：“不敢不敢，相国谬赞了，这二州本就是天子之土，我何敢僭越称功？相国既然有了吩咐，将军便请先在汝南住下，若有兵马钱粮上的不足尽可开口，我必定满足。另有一事，豫州之地新得不久，汝南之内尚有我两员部将，皆是我族弟，曹仁领一支军，夏侯渊领一支军。这两支兵各有万余人，正在汝南境中剿贼。想必将军曾听说过，这黄巾之乱平定之后，各地余了不少黄巾余党，大都占据山林，落草为寇，这汝南境内便有一支黄巾余党，为首的叫刘辟、龚都，兵马不少，我剿了许久，未能全功。将军既奉命要驻守汝南，那我那两支兵是否该撤走，还请将军拿个主意。”
张绣道：“旨意只令我驻汝南，并未说汝南之内就不得有旁的兵马，也没说曹公就得把自个的人马调走。曹公兵马去留还请曹公自己斟酌，倘无旁处用兵，便留在汝南亦无不可。只是既然天子以我守汝南，我当保汝南一境之平安，既然汝南境内仍有黄巾余党，我当将其剿除，为百姓除害。”
曹操道：“将军壮志可嘉！”便亲自为张绣斟了一杯酒。张绣接过饮了，上马领兵就往汝南去了。曹操亦命人传令到曹仁与夏侯渊军中，令二人引军退到汝南与谯郡交界处，按兵不动。
张绣到了汝南，稍加安顿，便遣细作探查刘辟龚都这支黄巾余党的底细。此二人非汝南本地人，乃是自冀州来。方太平道教草创，二人都曾跟随张角三兄弟学艺，学了些细微本事。后来张角安心当他的富家翁，不再管教中之事，张宝便将这二人派到了汝南，令他们暗中发展信徒，待时机成熟，便聚众响应。后来黄巾乱起，二人也在这汝南响应，杀了郡守，占了汝南，声势浩大，官军不能敌。后来董卓剿黄巾，大军困巨鹿城，张宝曾派人到汝南来求援，刘辟与龚都便领兵去救，结果半道上路过兖州，被东郡太守乔瑁所败，二人领残军回汝南，听说各路黄巾乱军皆被官军所败，只剩下巨鹿孤城一座，便商量了一下，领兵退出城去，遁入山林之中。
这二人帐下既无能征惯战之将，营中兵丁也多是些盗匪流氓，乌合之众，本不堪一击，但他们在这汝南多年，熟知山川地势，于这草木茂盛之处与官兵游斗。曹操得豫州不久，民心未附，因此剿了几月，虽胜了几场却都是小胜，未建大功。此时曹仁与夏侯渊大军退走，张绣兵不过数千，刘辟与龚都得知了，欺张绣兵少，不等张绣讨他们，便先引兵到这汝南城下走了一遭。
张绣闻讯，赶忙命众军登城守御。他登上城墙一看，见城外乌压压满是贼人，各人头上都包着黄头巾，手中兵刃五花八门，常有手持长叉锄头的。为首有几人骑马，身上亦披着甲胄。看了不多时，有一骑纵马出阵，马上那将使一柄大斧，对着城头叫骂。张绣正要试试贼兵战力如何，便回顾左右问道：“何人愿意出战？”
他麾下勇将胡车儿道：“末将愿往！”
张绣便拨给他精兵三百，令他出城迎敌。胡车儿来到阵前，也不与敌将通姓名，提刀就砍。两将战了三合，胡车儿便将敌将斩落马下，而后杀向敌阵。黄巾众人见己方大将败了，发一声喊，反身就跑，胡车儿领兵追杀，拾获黄巾贼遗下的器械甲仗不知凡几，可斩首不多，擒获也不多，贼人跑得极快，丢了身上物事就四散去了，令众军也不知道该往哪里追。
张绣在城上见状，便令鸣金收兵。他心知若直接发兵征讨，恐难以得胜，便令人放出风声，言说他兵力不足，难以剿平刘辟龚都，因此只要他们不来搅扰，他便不会出兵。刘辟与龚都听了，便愈加有恃无恐起来。而张绣则遣人暗中查探群山密林之中，刘辟与龚都大营所在之地，旬月以后，探子回报，已经发现了刘辟龚都大营在城外的南山深处，距城有四十里。这一路上到此都是黄巾军的岗哨，莫说大军进入，便是寻常行人也会受到盘问。
张绣苦思良久，终思得一计。他从军中选出数名勇武又有胆略之人，由他亲领，扮作客商，往山中就去，又令胡车儿领精兵三千，待张绣走了一日之后，便攻入山中。
计议已定，张绣便领了几人作客商打扮，随身带了不少金帛，每个人贴身藏了一柄短刀，便往山里去了。进山不久，便有暗藏的黄巾贼岗哨围住他们盘问。张绣道：“我是汝南富商，听闻刘、龚两位将军在此山中，便来求见，有要事商议。”随后，他取出随身带着的金帛示贼。贼人们见了这许多金帛大喜，便领着他们径直进入山中去见刘、龚。
到了大营，刘辟龚都在帐中召见张绣，问道：“你到此来有何事？”张绣道：“自那张绣到了汝南之后，城中商户都受他压榨，苦不堪言，皆感念当日二位将军在城中之时。因此大伙凑了些金帛，令我送来给两位将军。”
刘、龚闻言大喜，道：“蒙众位挂念，先生回到城中之后，劳烦转告诸位，早晚有一日我二人还要打回汝南城。”
张绣道：“在下有一计，可保二位将军不废吹灰之力便可擒拿张绣，重回汝南城。”
刘辟忙道：“计将安出？”
张绣道：“请屏退左右。”
刘、龚两人毫不起疑，领着张绣进到一间密室之中，道：“此处无别人，先生请说。”
张绣凑到刘辟耳边悄声道：“我知张绣将一批金帛藏在一个隐秘去处，将军可派兵前往，张绣若知此地有失，必定来救，将军可设一埋伏，则张绣可擒。”
刘辟喜道：“此地在哪？”突然他又觉得奇怪，又问：“既然是个机密的去处，你又是如何知道的？”
张绣放声大笑：“因为我便是张绣！”刘、龚闻言大惊，此时张绣早已取出暗藏的利刃，拉住刘辟，一刀断其咽喉。龚都转身欲逃，张绣自身后扑上，亦将其一刀杀了，割了二人首级提出去，掷于堂前，大声道：“我乃是奋义校尉张绣，刘辟、龚都已死，众人降者免死！”
黄巾余众见状，纷纷四散奔逃，另有一部愿降，张绣便命他们交出兵器，呆在营帐之中不许出来。不过半日，胡车儿也领军到了，众军搜过营中各处，收缴了钱粮器械，便一把火烧了营寨，押着俘虏回城去了。山中其余贼众听闻刘、龚已死，大营已破，纷纷逃散，汝南安定。
张绣遣使往长安报捷，并报知兖州曹操。董卓闻报，奏请天子擢张绣为汝南太守。
曹操得知之后，说与一众谋士听。其中荀攸说道：“张绣只有三千兵，旬月之间便定了汝南，此人才干非凡，若任其在汝南，久之恐怕于兖州不利。使君当早作打算。”
曹操笑道：“自我离开洛阳，不过数年，已有兖州与豫州两州之地，带甲数万。能有如此成就，虽赖众位协力，董相国亦支持良多。我这兖州牧虽经董相国之手得任，但我非其心腹，以董相为人，岂能坐视我等壮大而不加干涉？董相国插手兖、豫二州，本就是我们能预料到的，如今只是分去了一郡，已然令我喜出望外了。况且这汝南张绣，未必就是兖州之敌。程昱，你代我传令给曹仁、夏侯渊，令他们撤出汝南地界。其余诸位，当替我多关注徐州情形。我料今年入夏之前，袁绍必定进军徐州，到时候朝廷或会下旨令我们救援。袁绍将是十年之内最强之敌，此战是初战，定要取胜。”
众谋士应诺，各自退下了。
