孙刘和解之后刘备率军返回巴蜀，然而此时汉中的局势已经牢牢掌控在了曹操的手中，刘备即使赶回了巴蜀也不能左右战局。所以这件事并没有引起曹操的重视，但是司马懿却认为光是湘水划界不足以成为说服孙权退兵的理由，为此他百思不得其解。
正在此时司马懿忽然想到了孙权屡次进攻却没有得手的合肥，于是他大胆的猜测刘备是否与孙权之间达成了某种协议，比如说：
东西并进、两路北上，共同攻打汉中和合肥...
司马懿心想如果自己的猜想是正确的，那么曹操到时必定因两面受敌而陷入被动，此刻曹操的主力尽在汉中之地，驻守合肥的张辽虽然是百战名将，但手中仅有守军七千余人，若是孙权举大军来攻的话必定压力巨大，合肥失守并非全无可能。
深思熟虑之后司马懿将这个担忧告诉了曹操，并提醒他一定要小心防范，曹操认为司马懿的担心固然有道理，但是他却并没有加派任何得力的干将前去支援张辽、李典和乐进，而是亲笔写下了信件装入了密函之中，在密函的封面上写下了“贼至乃发”四个字。
起初司马懿并不理解曹操这么做的用意，等到曹操派遣薛悌只身前往合肥后才对司马懿解释说：“现在我大军主力尽在汉中，就算是我想要驰援他也没有任何的办法。再说了我也信得过文远，加上还有李典、乐进两人辅佐，我想合肥应当无碍。”
这种赌徒式的策略让司马懿吃惊之余，也再度体会到了曹操的不同寻常之处：
“看样子魏公是对合肥的守卫很有信心了？”
见司马懿也放下了紧张的心态和自己开起了玩笑，曹操笑着问：
“仲达可有胆量与我一睹？”
司马懿反问道：“赌合肥是否能够守得住吗？”
曹操摇摇头说：“赌张辽能够置孙权于死地...”
大军在阳平关前驻扎了数日，然而张卫选择了高挂免战牌拒不出战，曹操下令攻打了几次都没有得逞，而此时刘备已经返回了蜀郡CD，开始积极作着开战的准备，这让曹操手下的很多将领都心生疑虑，他们担心刘备很有可能会加入汉中的战局。
公元215年（建安二十年）八月，坏消息接连而至，孙权果真率领十万大军北上进攻合肥，然而此时张辽的守军连孙权的十分之一都不到，因此很多人都断定合肥必失。
而阳平关久攻不下让汉中的战事陷入了胶着之中，刘晔等人认为合肥若是被攻陷了，那么就意味着豫州的南面门户彻底洞开，孙权一定会趁此机会夺取豫州，威逼许都，所以他们都力劝曹操应当撤兵先以应对孙权北上为主。
面对众人疑虑曹操在思考了整整一夜之后，居然同意撤兵回援合肥。
对此夏侯渊和张郃等将领纷纷表示不理解，夏侯渊更是直接闯入了曹操的中军主帐之中质问退兵的理由，结果被曹操下令格去了军职并处以两百军棍的惩罚。
见夏侯渊这样和曹操亲近的将军都受到了这样的待遇，很多将领都为其鸣不平，认为曹操刻薄寡恩不是个好君主，恰好此时司马懿经过了军帐的时候听到了他们的对话，便掀开了帷帐走了进去：“既然是这样，你们为什么不去投靠张卫呢？”
之后陆陆续续开始有将近数百人的将领和士兵前偷偷离开了曹营前去投靠张卫，他们对张卫说自己是陇上马超的旧部，因马超战败才投降了夏侯渊，现在他们看到曹操是个不可靠的主上，害怕自己日后会因曹操的生性多疑而惨遭遗弃或是杀戮，于是便来投靠张鲁，希望能够谋得一条生路。
张卫也并不是个耳根子软的人，他秘密派人去调查了这些降卒的身世背景，发现果真都是陇上人氏于是便收留了他们，但是仍旧未敢重用，全都集聚的关内由兵马监视。
三天后，曹操见不断有降卒前去投降张卫，他对外宣称为了避免军心动荡所以自己将立刻班师撤军，很快十万大军便撤离了阳平关前线。
见曹操大军果然撤退了，张卫不禁松了一口气，他当夜便写下书信派人送往南郑向张鲁报捷，然而还没有等他的书信写完，阳平关外便忽然出现了震天撼地的喊杀声。
他亲自登上了关隘发现原本应该被曹操撤职查办的夏侯渊，居然率领着八千兵马强攻阳平关，不久关内也杀声四起，那些之前投奔张卫的所谓降卒，居然趁着守军都集中到关前拒敌之时，偷偷烧光了张卫所有的粮草并从内部发起了对张卫的进攻。
没有了粮草又毫无胜算可言，张卫无奈之下只好献关投降。
事后夏侯渊才对众人解释说自己本想闯入帐中阻止曹操撤兵，结果司马懿和曹操却提出了上演这么一出苦肉计来麻痹张卫，于是才有了撤职和军仗这样的戏码。
很快又有斥候传来了消息：
“启禀魏公！张郃将军已经渡过了沔水夺取沮县，现在已经包围了沔阳城！”
原来曹操之前所说的退军不过是让张郃分兵攻打沮县，再绕道沔阳彻底攻占南郑的最后一座屏障，现在一切都如司马懿和曹操所料的那样，张鲁已经没有任何的筹码了。
张鲁闻之阳平关被攻破和沔阳被围的消息后，已然全部失去了抵抗到底的决心，他本想直接向曹操敞开南郑大门屈膝投降，但是阎圃却劝说张鲁应当再抵抗一阵子，这样以来也不失一方诸侯的气节，也会让曹操对他另眼相看。
于是张鲁下令城中所有的财宝全部封藏妥善保管，这也是对曹操所表示出来的诚意，随后自己带着少数人马离开了南郑前往巴中。
曹操进入南郑之后，看到所有的财物都保存完好便觉察到了张鲁的诚意，停止了所有针对汉中的军事行动，并派专人前去巴中慰问以安张鲁之心。
同年九月，司马懿建议曹操对待巴中要继续予以怀柔政策，同时利用张鲁说服巴中真人部落酋帅主动归降，这样以来可以顺势将“三巴”之地囊括手中，之后再派遣一员大将深入巴郡驻守，从战略上切断荆州和益州之间的所有联系和补给，彻底让刘备陷入进退维谷的窘境之中。
依计而行的曹操很快在当月就收到了朴胡、杜蒦和任约三位真人酋帅的降表，曹操将巴郡一分为三，由三人分任太守。
当月，千里之外的合肥战场也捷报频传，张辽在李典和乐进的辅助之下，凭借着自己的果敢指挥以及勇猛作战，在仅有七千人守军的情况下大败孙权的十万大军，并且在之后的逍遥津突袭战之中连破吕蒙、甘宁和凌统等东吴名将，若不是三军死命相护使得孙权有惊无险的跃马断桥，此战张辽几乎可以将孙权逼至死地。
至此孙权第二次大规模对合肥的进攻也宣告失败，蒋济和张辽两次给予孙权的败果让其在之后的十余年内再也不敢正视合肥，确保了曹操东南的长时间安宁。
十一月，张鲁正式携带所有家眷前往南郑向曹操投降，至此汉中已全部落入了曹操之手。
然而在对待如何处理张鲁的问题上曹操陷入了犹豫之中，他心想张鲁在汉中统治多年拥有极高的人望，如果仍旧将其留下来的话可以从一定程度上安定当地的军民之心，但是他害怕自己一旦率军离去之后张鲁是否有复叛的可能性。
他将这个想法告诉了司马懿并征求他的意见，而司马懿已经从曹操的口中听出了退兵之意，便劝谏曹操说：“魏公，现在局势对我们十分有利，刘备刚刚占据蜀地立足未稳，巴郡又向您望风归顺，蜀中的局势必然陷入动荡，您应该趁此良机一举夺取蜀地，没有荆州粮草辎重驰援的刘备必定会陷入孤立无援的境地，到时候只需要派遣徐晃、张郃两位上将分别镇守涪陵和巴东，阻止关羽西进，攻破CD、生擒刘备必然指日可待。”
虽然曹操也想彻底消除刘备这个隐患，但是他担心蜀郡山峦叠嶂且地形险要复杂，短时间内恐怕难以彻底夺下CD。而现在孙权和刘备又恢复了同盟，若是他们趁着自己身陷益州战场之时再度从荆州和扬州两路北上的话，恐怕局势会对自己不利。
与此同时身在CD的刘备，在得知了曹操完全占据了汉中以及合肥战场的失利后，开始担心声势正盛的曹操会不会趁着孙权元气大伤之际，从而分割荆州和益州，对CD实施军事绞杀。
诸葛亮则认为曹操不会有大举南下的风险，他看透了曹操的生性多疑：
“曹操近来年的战争无论是胜或是败都不会滞留太久的时间，原因在于他害怕后方出现动乱，此时曹操之所以没有立刻乘胜南下正是由此顾虑，只要许都或是邺城有任何的风吹草动，他立刻就会班师回去，如此一来我们不仅解除了蜀郡之危，也可趁此重夺巴郡。”
之后诸葛亮与法正派出多股细作于许都和邺城大造谣言，一时间大量信息汇聚于身处南郑的曹操耳中，其中最让曹操在意的是大本营的情况：
坐镇邺城的曹丕从曹操出征汉中开始便和镇守河北的诸将频繁接触。
光是这一点就足以让生性多疑的曹操急忙赶回邺城了，但是司马懿却一眼就看出了这是刘备一方的诡计，因此力阻曹操班师：
“圣人不可违时，但更不可失时。此时是夺取整个益州甚至是消灭刘备的绝好机会，如果就此半途而废的话，我们可能就再也没有灭蜀的时机了。二公子是您的儿子，定然不会背叛于您，更不会有异心，请魏公万勿生疑。”
然而曹操此时更加关心的是后方的稳定，对于司马懿急于推进西进之策的第三步也决定暂时搁置：“仲达，你的西进之策的确是眼下最适合我的，现今我们已经完成了西进之策的‘安定雍凉’和‘平定汉中’，人心不能太过贪婪，一意得陇望蜀的话恐怕会陇蜀皆失啊。”
最终曹操向全军传达了班师邺城的命令，留下了夏侯渊和张郃、徐晃三名大将镇守汉中，防止刘备北上，除此之外他还下令让张郃引兵南下，在朴胡等人的策应之下全面夺取巴东、巴西两地，逐步蚕食益州的领土。
司马懿则认为如果曹操想要夺取巴蜀的话就必须以决战的心态去面对，逐步蚕食对于诸葛亮和刘备来说根本就不可能，反而会将张郃置于险地。
为此司马懿也曾在班师之前寻找张郃商议这件事，但张郃虽然也感觉到以这种方式进攻巴郡胜算并不大，内心也支持司马懿的速战灭蜀，但毕竟将军的天职是服从统帅的指挥，尽全力完成好统帅所下达的指令，对此也只能表示无奈。
自认为两面兼顾的曹操部署好汉中的事宜之后便急忙赶回邺城，临行前与司马懿私交不错的张郃与夏侯渊，在定军山上为他设宴送行。
司马懿站在山上俯视着定军山的地势之后，他料定此处将来必然是刘备北上汉中的重要战场，为此他嘱咐夏侯渊和张郃说：
“二位将军，依在下之见汉中作为益州北面的战略屏障，不久刘备必然会领军攻打汉中，如若攻略巴郡张郃将军不能维持局面的话，那么离刘备的北上之期也就不远了。”
夏侯渊放下酒樽叹了口气说：“仲达老弟，说实话我和张郃的心里是认可你的方略的，可是无奈魏公秉性难测，我们这些做部将的也只能听命行事。”
说罢他站起身一把勾住了司马懿的肩膀，让司马懿完全没有防备：
“不过你放心，有老子坐镇汉中，谅他刘备也不没这个能耐从我手里夺走一城一地！”
不知为什么司马懿总有种不祥的预感，他深知夏侯渊与张郃的能耐当世少有对手，但是他更为在意的是刘备身边最近新起的谋士法正，他对诸葛亮很熟悉所以大致也能摸清楚他的套路，可是这个法正他却完全没有通过任何形式接触过，不知道日后会起到什么样的作用。
综合定军山的地形司马懿给了夏侯渊一个建议：
“敌若来犯必定坚守，敌若占领不可硬夺。”
然而夏侯渊却并没有将司马懿的半句话听进去，毕竟刘备手下的将领自己大多都打过交道，其中包括张飞、赵云等人甚至成为自己的手下败将，所以对于定军山乃至于汉中的防卫他很有信心，这也让司马懿更加为夏侯渊的前途担心，也为整个汉中的前途担心...
