魏明帝又问他吴蜀都该讨伐，应该先从何处着手？司马懿回答说：“吴以中国不习水战，故敢散居东关。凡攻敌，必扼其喉而摏其心。夏口、东关，贼之心喉。若为陆军以向皖城，引权东下，为水战军向夏口，乘其虚而击之，此神兵从天而坠，破之必矣。”魏明帝同意他的看法，命他回宛城备战。 八月，大司马曹休不依计划，迳下皖城深入敌境接应诈降的吴将周鲂，在石亭被陆逊伏击，大败，曹休病死。
抗蜀北伐
相关战役地图太和三年（229年），蜀丞相诸葛亮第三次出兵攻魏，并占据武都、阴平二郡。
太和四年（230年），魏明帝决定兴师伐蜀。升司马懿任大将军、加大都督、假黄钺，与大司马曹真一起伐蜀。
八月，魏明帝命曹真率主力由长安入子午谷，左将军张郃出斜谷，司马懿自荆州溯汉水出西城，将兵分三路会攻汉中。司马懿从西城开拓道路，水陆并进，沿着沔水逆流而上，直达朐腮，攻克新丰县，驻军丹口，后遇雨班师。
太和五年（231年）二月，蜀汉丞相诸葛亮率军第四出进攻魏，包围祁山贾嗣、魏平部，并以木牛流马运输粮草。魏明帝对司马懿说：“西方有事，非君莫可付者”，派他西驻长安，都督左将军张郃、雍州刺史郭淮等防御蜀军。司马懿留部将费曜、戴陵率4000人守邽，自率主力西救祁山。张郃劝司马懿分兵驻扎雍、郿两地，以作大军后镇，司马懿不同意，他说：“料前军独能当之者，将军言是也。若不能当，而分为前后，此楚之三军所以为黥布禽也。”于是挺进喻麋，对战诸葛亮。
至此，史书上对今后的作战却有了两种截然不同的记载。
《晋书·宣帝纪》：亮闻大军且至，乃自帅众将芟上邽之麦。诸将皆惧，帝曰：“吾倍道疲劳，此晓兵者之所贪也。亮不敢据渭水，此易与耳。”进次汉阳，与亮相遇，帝列阵以待之。使将牛金轻骑饵之，兵才接而亮退，追至祁山。亮屯卤城，据南北二山，断水为重围。帝攻拔其围，亮宵遁。追击，破之，俘斩万计。
《资治通鉴》：郭淮、费曜等徼亮，亮破之，因大芟刈其麦，与懿遇于上邽之东。懿敛军依险，兵不得交，亮引还。懿后等寻亮至于卤城。张郃曰：“彼远来逆我，请战不得，谓我利不在战，欲以长计制之也。且祁山知大军已在近，人情自固，可止屯于此，分为奇兵，示出其后，不宜进前而不敢逼，坐失民望也。今亮孤军食少，亦行去矣。”懿不从，故寻亮。既至，又登山掘营，不肯战。贾栩、魏平数请战，因曰：“公畏蜀如虎，奈天下笑何！”懿病之。诸将咸请战。夏，五月，辛巳，懿乃使张郃攻无当监何平于南围，自案中道向亮。亮使魏延、高翔、吴班逆战，魏兵大败，汉人获甲着三千，懿还保营。六月，亮以粮尽退军。
两书均记载诸葛亮带兵夺上邽粮草，《晋书》记魏军卸甲轻装，日夜兼程，在汉阳与诸葛亮相遇，司马懿派将军牛金率轻骑做饵，诸葛亮退兵至祁山，屯兵卤城，据南北二山，堵水筑围墙。魏军攻破，大破蜀军，俘获斩首数万。《资治通鉴》记司马懿开始依险道行军，使双方军队不得交战，诸葛亮只得带兵返还；司马懿又寻找诸葛亮的部队到达卤城，张郃建议出战，派奇兵绕到蜀军背后，断其后路，司马懿不听，继续寻找蜀军主力，找到后又依山扎营不出战，贾栩、魏平等将领都纷纷请求出战，等到了五月，司马懿派张郃做其他事，自派兵攻诸葛亮，蜀军迎战得胜，获甲首三千。而郭淮、费曜之前还被夺取了些粮草。
【《资治通鉴》此处记载取自裴注引用的《汉晋春秋》，该书明确以反曹魏、推崇蜀汉为正统记， 裴注在《三国志·诸葛亮传》亦引用过“郭冲三事”如空城计等不实记载； 《晋书》为唐太宗主持官修，观其后记，反有警后世之意，更不可能美化司马懿。】
陈寿所著《三国志》诸葛亮、郭淮等人的传里，关于太和五年（231年）的祁山之役，也都没提过诸葛亮曾击破郭淮抢粮成功等事。
《三国志·蜀书·诸葛亮传》：建兴九年（231年）春，亮复出祁山，以木牛运，粮尽退军。与魏将张郃交战，射杀郃。
《三国志·魏略·郭淮传》：五年，蜀出卤城。是时，陇右无谷，议欲关中大运，淮以威恩抚循羌、胡，家使出谷；平其输调，军食用足，转扬武将军 。
而《三国志·张郃传》 提到过《晋书》所载的诸葛亮退守祁山和《三国志·诸葛亮传》里的张郃中箭而死。
几本史书对战争的总体趋势描述相同，都是司马懿保住陇西粮食，解了祁山之围，最终两军在相持中，蜀军粮草耗尽退兵。
