黑旗军即刻前往扣波和艽封堵住山路，法军见黑旗军在此做好准备，已无机可趁被迫退回文渊。
挫败了法军迂回的企图，黑旗军驻留在此已防法军再次偷关，而刘飞扬见此无事便冯子材处。19日，又有密报法军将攻打龙州，刘飞扬提意为了打乱法军的进犯计划，应先发制人。21日夜冯子材令王孝祺部出关夜袭法军占据的文渊，法军未想清军敢主动出击。是时月暗风急，清军偷偷潜潜到法军营垒前突然袭击，法军惊慌失措纷纷溃退，清军趁势击毁法军炮台两座、毙伤法军众多取得较大胜利。
清军的主动进击，打乱了法军的作战部署，迫使法军东京副司令尼格里上校决定不等援军到齐即向清军坚固防御阵地发起进攻。23日晨，法军第2旅千余人想趁浓雾偷袭镇南关，另以千余兵力屯于关外作预备队。
上午9时30分，法军正要偷袭清军可大雾却开始消散，此时法军兵分两路组织进攻。第一四三团第1营和外籍军团第2营等沿东岭向大小青山方向实施主攻；第一一一团第1营沿关内谷地前进，向长墙进攻，企图在主攻部队得手后两路夹击，攻占关前隘清军防御主阵地。法军主力在炮火掩护下，开始狂攻东岭三座堡垒。清军虽奋力抵抗但由于驻守此地并无大炮相助，最后不得撤出东岭。
与此同时，法军猛攻镇南关前的长墙。冯子材率所部顽强抵抗，一面商请去请驻于幕府的苏元春部前来接应，而刘飞扬和刘洪恩则去王德榜部。王德榜属于湘军，曾经在左宗棠的帐下任事，刘飞扬来安南时，左宗棠就写了一封信于他。刘飞扬见了王德榜出示了左宗棠的信，王德榜二话不说请刘飞扬下令。
丢失了东岭而援军未到，在这此危急关头，白发苍苍的冯子材大声疾呼：“法再入关，有何面目见粤民？何以生为？”在他的鼓舞下清军拼死阻击。但法军在大炮的掩护下还步步逼近长墙，而此时清军的为数不多的大炮钧已被法军炸毁，有的法兵已越墙而入，有的法兵足踏墙头。
在这千钧一发之际，老将冯子材足蹬草鞋，身着短衣，手执长矛，大吼一声，率二子冯相华和冯相荣，跃出战壕，扑向法军。冯子材身先士卒，奋勇杀敌的英雄气概，使全军将士精神振奋，大家一起呐喊杀出，争先恐后，冲进敌阵，展开肉搏战。法军的开花大炮丧失了威力，但见清军将士刀矛飞舞，杀声震天，敌人尸横遍野。是时苏元春率部赶到参战，迫使法军后撤。
刘飞扬也领着王德榜部出油隘从侧翼袭击法军，并一度切断了敌人运送军火、粮食的交通线，牵制了法军预备队的增援，有力地配合了镇南关前的战斗。
至入夜时，战事暂停。清军进一步调整部署，由苏元春部协助冯子材守长墙。冯子材还另调驻扣波的黑旗军前来抄袭法军左翼。次日晨，尼格里指挥法军在炮火掩护下，分三路再次发起攻击，沿东岭、西岭和中路谷地进攻关前隘阵地。冯子材再次跃出长墙率清军与法军白刃格斗，战斗异常惨烈。战至中午，终将中路法军击退。
与此同时，陈嘉部、蒋宗汉部在东岭与法军展开了激烈争夺战，终将东岭夺回。
这时，刘飞扬率部在击溃法军之增援部队并消灭其运输队后，从关外夹击法军右侧后。这时，王孝祺也已击退沿西岭进攻之敌，并由西岭包抄敌后，使其腹背受敌。法军三面被围，法军死伤近300人，后援断绝，弹药将尽，被迫败退，尼格里只得下令撤退。刘飞扬让王德榜把其部分成三股层层伏击法军，不求能阻住法军退路，但求能多杀法军缓其退兵。而刘飞扬马上赶回冯子材处，进见冯子材和众位将军。
此时，清军各部刚击退法军松了一口气，集在冯子材的大帐里大声谈笑邀功。刘飞扬一进帐，众人便赞他断法军后援、补给，背击法军对此战不可没。刘飞扬却好无喜色，冷眼瞧着诸位。大家一看他脸色不对，相顾嘘嘘不知发生了什么，一时间帐里安静了下来。
冯子材不禁心中大赞，这些天不怕地不怕的粗汉在这个小青年面前却不敢放肆。他问刘飞扬到：“刘大人怎么了，如今法溃退有何不喜？”
刘飞扬对冯子材和在声众将一恭道：“击退法军自然可喜，只是不知诸位能安坐在此多久？”
冯子材诧异道：“这是何言，如今法军退去，将士们撕杀辛苦稍息一会也是应该的。”
刘飞扬道：“法军惊慌退去正是我军乘胜追击之时，我军将士们辛苦法军更是不堪，不乘此时痛打落水狗待法军缓过劲，集了援军不知诸位将军是否还能有此心情高声谈笑。”
诸将一听面露愧色，刘飞扬正色肃声道：“冯将军此时当快快乘胜追击，重创法军夺回文渊、谅山等要地使其再无力攻击镇南关，方可保我大清国境无危。”
冯子材猛的站起，对诸将道：“诸位以为如何!”
众将高声道：“此当杀贼之时，一切听将军号令。”
冯子材大叫道：“好。众将听令，刘永福与我汇合王德榜部攻击文渊，苏元春和王孝祺部一同进击谅山。一刻不可待慢，立即出兵。”
“未将听令。”
却说法军想速速退兵却一路被清军王德榜部骚扰，只能沿途反击缓慢通行，待到好不容易的狼狈逃回文渊、谅山，冯子材已率部追上。法军立足未稳，清军就奋勇猛攻，法军士气低落，外无援军内无弹药粮草，不得已弃了文渊后撤。不想此时伏在侧翼的黑旗军突然杀出，法军仓惶应战被清军大杀一阵连法军指挥尼格里也被重伤。清军马不停蹄一路追击，于26日攻克文渊，29日攻克谅山，毙法军近千名，后又将法军残部逐至郎甲以南。取得重大胜利。
