9月28日，正当刘伯承在巨野地区积极部署歼击整11师时，5军和整11师奉命开始进攻了。在休整期间，国民军对巨野地区进行了充分的侦察，发现解放军2纵已在龙堌集一带布防。据此，邱清泉判断解放军可能在龙堌集与巨野间与国民军决战。为慎重起见，邱清泉特邀胡连到驻定陶的5军军部商讨作战计划。二人取得一致意见后，邱清泉下达了口述命令：
一、敌如贵官所知。
二、军于9月28日晨，沿潴水河向东攻击，夺取龙堌集、张凤集，奏功后，向巨野嘉祥方面进出。
三、第5军以第45师沿巨荷公路向东攻击，夺取龙堌集后，向巨野、嘉祥方向进出。
四、整编第11师沿潴水河以南地区向张凤集攻击，夺取后向纸坊街方向进出。
五、攻击前进第一线师、旅须密切协调，互相掩护，不利超出火力支援范围以外。
六、军后方指挥所于定陶，前进指挥所在陈集附近开设，书面命令后补。
国民军进攻开始的当天，45师即抵达双庙、古楼一线，整11师亦进到张表集南北地区。当日深夜，刘伯承获知国民军动向后，遂在晋冀鲁豫军区副司令滕代远陪同下，亲自视察了5旅阵地，并做出指示：2纵尤其是5旅要搞运动防御，不是死守，但不能轻易放弃阵地，要一步步阻击它、消耗它、牵制它，最后守住龙堌集，坚持到10月3日，保障3、6、7纵在张凤集地区歼击整11师。在防御时，“最好采用三角队形，前面少放些人，后边设几条防线，逐渐增加兵力。这样打起来就可以逐渐挫伤他的锐气。他们的攻击力量越来越弱，而我们的防御却越来越强”。刘伯承走后，5旅当即根据他的指示加强阵地，并调整作战部署，在前沿只以一个连、最多一个营固守一个村庄，后面逐次增加兵力，保证有足够的兵力应付不测。29日晨，刘伯承回到司令部，下达了《巨野战役基本命令》，决定集中2、3、6、7纵和冀鲁豫军区独立旅，“选择其由公路上进至龙堌集东西之一路，或由潴水河南岸进至李家堂和到大义之一路，于其运动中围攻钳击割裂而各个歼灭之”。命令规定了各部队的任务，以2纵5、6旅在龙堌集一线防御，阻击5军；而以其他主力纵队集结待机，准备消灭突前的11旅。命令强调“作战胜利的关键，在于第一夜晚的成功。各部务求预先作充分的侦察准备，准时的协同动作，并在战术上注意割裂敌人，各个歼灭之”。
命令下达不久，刘伯承就接到2纵的报告：龙堌集方面的战斗已经打响了。是日8时，45师即在猛烈炮火的掩护下，向解放军5旅14团防守的常楼、古楼、左家庄、前董庄一线发动进攻。45师师长胡长青以133团为右翼，134团为左翼，重点攻击古楼、双庙两个村庄。观音集一带是解放军的前哨阵地，14团的任务只是迟滞国民局的前进速度，为主力做好战斗准备赢得时间，没有死守的必要。因此，14团在战斗中依托既设阵地，节节阻击，步步后退。29日，国民军攻占古楼、双庙。30日，国民军133团攻克观音集。是日，45师师长胡长青莅临师前沿督战时，被解放军狙击手射伤，送往后方，其职暂由5军副军长高吉人兼代。解放军14团退守观音集以东。10月1日晨，45师在飞机和炮火支援下，猛攻大李庄、梁庄、巴里庵。同时，96师一部奉命向大文楼、北李庄攻击以策应其作战。解放军5旅15团和6旅17团依据既设阵地顽强阻击，国民军进展迟缓。高吉人为打破僵局，命134团向大李庄背后迂回，袭取了李集，并攻占了三里坊。国民军突进到距龙堌集不足2公里的地方，令龙堌集守军（15团1个营）大吃一惊。他们原以为龙堌集一带战场狭小，而解放军又重兵布防，国民军没有空间进行穿插，可国民军这么快就到了眼皮底下，而自己还未进入阵地。仓促之中，守军决定弃守龙堌集。不久，国民军134团团长崔贤文从龙堌集镇内跑出来的居民口中得知解放军已全部撤离了。崔贤文半信半疑，当即派人去侦察。侦察员回来报告说：“龙堌集的解放军确实退走了，我们跑到阵地上没有人。”崔团长这才打电话给邱清泉，请示要不要进去占领。邱清泉命令他即刻派部队占领龙堌集，不要失掉时机。这时，天已近黄昏。崔团长仍不放心，只派了一个排向龙堌集前进。可当这个排接近解放军阵地时，突然遭到解放军的火力阻击，无法前进，只得退了回来。究竟是怎么回事呢？原来，龙堌集守军撤退后，15团团长吕琛很快得知这个消息。他知道，龙堌集是整个纵队的防御支点，万万丢不得。因此，他急令弃守龙堌集的那个营火速回防。龙堌集守军得令后，立即回守原阵地，击退了134团的前卫排。而后，15团一部又乘胜，发起反击，夺回了三里坊。当134团将这一情况报告给邱清泉时，邱清泉暴跳如雷，大骂崔贤文糊涂：几天都攻不下龙堌集，解放军自动退走了，也不马上占领，把这样的好机会失掉了，真可恶！他要惩办崔贤文，只是因崔不是有意失掉战机，才作罢。战到傍晚，国民军停止了进攻。当晚，陈再道命15团放弃大李庄、三里坊等地，退守龙堌集以西约0。5公里的管庄。
战斗持续了几天，龙堌集仍没有攻下。邱清泉仔细分析了解放军在这一带的布防情况后，认为因解放军控制了龙堌集西北的大文楼，国民军进攻时受到该地的火力挟制，所以要占龙堌集，必先克大文楼。而96师攻击大文楼的力量不足，应当增加兵力。10月1日下午，邱清泉把96师代师长邓军林叫到军指挥所，命令道：“96师抽一个团攻击文楼村的解放军据点。”接着，他指着地图向邓军林说道：“文楼村在龙堌集西北，离龙堌集寨子两千多米，地势重要，能控制龙堌集西北地区。攻下了文楼，龙堌集的解放军就会受到威胁，我们再攻击龙堌集比较有利。”而后，邱清泉话锋一转，要求邓军林亲自部署攻击。邓军林领命后，立即回部队，命286团着手准备进攻。96师在加紧攻击准备。解放军那边也没闲着。当天，6旅17团3营接管了大文楼、北李庄阵地，加修工事，准备迎敌。到是日晚，工事尚未修成，突然下起大雨，影响了工程进度。到2日拂晓，工事仅完成了部分。尽管如此，解放军没有却什么可抱怨的，因为上帝对双方都是公平的，大雨给本方带来的很大的困难，同样也极大地阻碍了对方的行动。从某种程度上讲，大雨对进攻方更为不利。雨水把本来就把道路变得泥泞难行。解放军286团（附96师炮兵营）冒雨在夜间行进，速度很慢，特别是炮兵营的骡马炮车，车轮深深地陷进泥里，挪动一步都非常困难。到天亮前，286团还没有完全进入出发地。但前沿却传出了激烈的枪声。怎么回事呢？原来，因天雨雾大，大文楼、北李庄守军麻痹大意，没有派出战斗警戒。凌晨5时左右，286团的一个侦察分队进到大文楼、北李庄西南约400米处进行侦察。这时，解放军才发现。以为国民军已开始进攻了，慌忙集中轻、重机枪一齐开火，一时枪声大作。国民将军侦察分队借此探明了解放军阵地的火力点位置，很快退了回去。清晨6点半左右，国民军炮兵准备就绪。邓军林命令炮兵立即向解放军阵地射击。由于我军前沿工事及火力点均已暴露，炮击十分有效。一个小时以后，解放军的前沿工事大部被毁，火力点已被打掉了三分之一。约8点左右，国民军开始进攻，以1营攻大文楼，2营攻北李庄，利用棉花地为掩护向解放军阵地作连续冲击。守备大文楼和北李庄的解放军17团3营（缺7连）在17团1营两个连的支援下英勇拼杀，击退了国民军的第一次冲锋。尔后，邓军林迅速调整部署，以预备队3营替换下损失过重的2营，集中兵力向大文楼攻击。国民军首先集中山炮和迫击炮，轰垮了大文楼村的西门门楼，并在南面围墙炸开了一个小缺口。而后，以1营和3营分从西、南两面攻入村内，与守军展开巷战。到下午3点，解放军终因伤亡太重，退出阵地。这样，国民军就以伤亡300余人的代价，控制了大文楼和北李庄。尽管286团进占了大文楼、北李庄，45师2日对管庄、奚楼的攻击却不太顺利。代师长高吉人以两个团兵力在猛烈火力掩护下，对两个村庄实施反复冲锋，均未成功。到太阳落山时，才勉强占领了奚楼大部。3日，高吉人将134团的预备队1营配属给133团，再度猛攻管庄。解放军拼死抵抗，15团团长吕琛还亲自带着参谋进入管庄指挥。双方均有多名连排干部伤亡。战斗一直持续到下午3时左右，守军才奉陈再道的命令，放弃管庄，退守龙堌集。4日，陈再道见龙堌集藩篱尽失，有被敌军突破的危险，遂急令原驻荷泽西北、防备郑州方面我军的4旅及冀南军区独4旅南下，插至定陶东北地区，切断国民军的补给线，配合主力作战。这时，整11师方面的战局发生了重大变化。
5军被2纵阻滞于龙堌集一带，给了刘伯承集中歼击整11师的可乘之机。由于我军采取了诱敌深入的策略，整11师从9月28日开始进攻后，并没有受到有力的抵抗，到10月2日即进占了张凤集、王庄、曹垓、董官屯等地。此时，胡琏发现5军与整11师之间的空隙太大，易被各个击破。同时，整11师的侦察部队在大义集方面发现大量解放军部队。为慎重起见，胡琏命令部队在张凤集一带加强工事，转入防御。这时的整11师并不完整，18旅（欠52团）及骑兵团还滞留在开封，没有归建。全师只有5个团，约2万人左右。胡琏感到兵力单薄，不敷使用，便命师所辖3个旅的工兵营合组成一个战斗团，由118旅副旅长王靖之指挥，暂归118旅建制。当天，胡琏根据“大纵深弹性防御”的作战思想，作出部署：11旅旅部及31团驻东西蒋庄及肖家堂，32团固守张凤集，王靖之团驻王垓，作为师部外围屏障，118旅以一部守备徐庄，旅部及54团主力停留于董官庄、百世庄一带，52团驻孙庄，33团、师部及师直属队进驻冯家沙窝，师炮兵营进入冯家沙窝后，立即构筑阵地，标定射击诸元，准备支援各部作战。在兵力配置上，各部均把主力集中在核心阵地，外围布置了大量警戒阵地，这些警戒阵地一般由一个连防守，负有侦察和迟滞任务，实施弹性防御，为主力部队作好战斗准备赢得时间。次日，邱清泉得到情报，获悉刘伯承已将所部主力移到张凤集附近地区。他当即将这个情报转告胡琏，并令整11师相机退守马垓南北之线，以避免孤军深入。但此时，整11师当面的情况已发生了很大的变化。3日，刘伯承看到整11师在张凤集一带停滞不前，迟迟不进入自己预设的战场，而龙堌集又已打了五天，2纵已十分疲劳，遂决定不再拖延，趁整11师立足未稳之际，主动出击，求歼该部。于是，我军各部开始悄悄向攻击出发地移动。是日下午，52团在向孙庄以北作试探性进攻时因遭大批解放军反击而受阻，该部撤回孙庄时天已近晚。得知此事后，胡琏对是否后撤，开始踌躇起来。此时，整11师阵地四周我军连络信号弹此起彼落。胡琏据此判断解放军已对本师形成合围之势，如果在敌前撤退，定会遭到解放军的攻击，从而招致重大损失。经过反复权衡，胡琏毅然决定就现地与共军决战。不久，胡琏的决策就被证明了其正确性。一场激烈的大战即将上演。
