青龙元年（233年），安定保塞匈奴大人胡薄居姿职等叛，司马懿派遣胡遵等追讨并破降。
对阵五丈原
蜀军退军后，军师杜袭、督军薛悌都预计诸葛亮第二年麦熟时还会入侵，建议趁冬天调运粮草，解决陇右粮少问题。司马懿认为：“诸葛亮两次出祁山，一次攻陈仓，都受挫而返。即使以后他还会出兵，将不再攻城，而是寻求野战，地点必在陇东，而不会在西边。诸葛亮常以粮少为恨，回去后必然广积粮草，我估计不经过三年，他是不会出兵的。”
青龙二年（234年）二月，诸葛亮率军十万出斜谷攻魏。四月，诸葛亮至郿县，进驻渭水之南。司马懿率军渡渭水，背水筑垒阻击。诸将想在渭北与诸葛亮隔水相持，司马懿说：“百姓积聚的粮秣财物都在渭南，这是必争之地。”遂渡渭背水扎营。司马懿分析形势后，对诸将说：“百姓积聚的粮秣财物都在渭南，这是必争之地。”
当时，司马懿屯兵渭南。郭淮估计诸葛亮一定会争夺北原，主张先占领，他说：“如果诸葛亮跨过渭水登上北原，就可以连兵北山，断绝陇道，惊吓臣民和胡人，此乃国家安危之大患。”很多人不以为然，但司马懿很认同，让郭淮屯兵北原。 战壕还没修好，蜀军压境，魏军奋力回击。不久，诸葛亮率大军西行，诸将都认为诸葛亮想攻西围。郭淮则认为，诸葛亮虚张声势是要让魏军大举回应，而他的目标是阳遂。夜里，蜀军果然进攻阳遂，因城中早有防备，诸葛亮没能成功。
《晋书》记载大致相同：“司马懿遣胡遵、郭淮共备阳遂，与亮会于积石，临原而战，亮不得进，还于五丈原。后遣奇兵掎亮之后，斩五百余级，获生口千余，降者六百余人”。
五月，十万吴军攻魏，配合蜀汉军作战，被满宠所拒。七月，魏明帝率兵亲征，吴军撤走。群臣认为司马懿正还在西边和诸葛亮重兵对峙，车驾可西幸长安，魏明帝则说：“权走，亮胆破，大将军以制之，吾无忧矣。”诸葛亮东进的道路受阻于司马懿，从渭水前进，又有郭淮阻挡，乃移军攻取散关，陇城等地，回师进攻司马懿。
八月，司马懿以“坚壁拒守，以逸待劳”的指示，与诸葛亮相持百余日。诸葛亮数次挑战，司马懿均坚壁不出，以待其变。诸葛亮便派人给司马懿送来“巾帼妇人之饰”，欲激司马懿出战，司马懿仍不出战。为平息部属不满情绪，故意装怒，上表请战。魏明帝不许，并派骨鲠之臣辛毗杖节来做司马懿的军师，以节制他的行动。诸葛亮一来挑战，司马懿就要带兵出击，辛毗杖节立于军门，司马懿便不出兵。蜀将姜维就对诸葛亮说：“辛毗杖节而至，贼不复出矣。”诸葛亮则说：“彼本无战情，所以固请战者，以示武于其众耳。将在军，君命有所不受，苟能制吾，岂千里而请战邪！” 诸葛亮遂分兵屯田，做长久屯驻之准备。
司马懿的弟弟司马孚也来信问前线军情，司马懿回信说：“亮志大而不见机，多谋而少决，好兵而无权，虽提卒十万，已堕吾画中，破之必矣。”
不久，诸葛亮遣使求战，司马懿不谈军事，问使者：“诸葛公起居饮食如何，一顿能吃多少米？”使者说：“三四升。”然后对问政事，使者说：“打二十军棍以上的处罚，都是诸葛公自己阅批。”经过一番不经意的询问，司马懿对人说：“诸葛亮将要死了。”果然，诸葛亮于当月病故于五丈原军中。
蜀将秘不发丧，整军后退。当地百姓跑来报告，司马懿派兵追击，蜀将杨仪返旗鸣鼓，做出回击的样子，司马懿以‘穷寇莫追’收军退回。当时有人传：“死诸葛走生仲达”，司马懿听到笑说：“这是因为我长于预测活人的事，不长于预测人的生死啊。”第二天，司马懿到诸葛亮营垒巡视，并赞诸葛亮“天下奇才也”。
历时七年的诸葛亮北伐至此结束。诸葛亮以一州之地强攻雄踞中原的曹魏，纵使竭忠尽智，终因实力悬殊而难以实现其战略目的。而曹魏则在司马懿、曹真等人的人正确指挥下，以优势兵力采取防御战略迫退蜀军，取得了最后的胜利。
蜀汉将领杨仪、魏延在撤军后争权，杨仪杀死魏延。司马懿想乘机攻蜀，魏明帝未准，作罢。
青龙三年（235年），司马懿升任太尉，累增封邑。蜀将马岱入境侵扰，司马懿派牛金迎击，斩蜀军千余人。武都氐王苻双和强端率领其属下六千余人来降。
平定辽东
东汉末年军阀混战时，公孙度据有辽东。这个割据势力对曹魏一直时叛时降，保持着半独立的地位。公孙渊继为辽东太守后，对魏更加不逊。魏明帝震怒，派荆州刺史毌丘俭出任幽州刺史，时辽水大涨，毌丘俭不利而还。毌丘俭讨伐受阻，使公孙渊更加得意。景初元年（237年），原魏辽东太守公孙渊背叛魏国，自立为燕王，置列百官，定都襄平。 渊遣使南通孙权，封拜边民，诱呼鲜卑，侵扰北方。
