不過同時諸葛亮也清醒的意識到，司馬懿此時的主要任務是鎮守荊州防備孫權和陸遜,他兩次聲名大噪的戰役都發生在荊州戰場,縱使曹睿不追究他未經請示就擅殺邊疆大臣的罪名,朝中那些對他忌憚猜疑的人也不會坐視不管。
諸葛亮所料不差,司馬懿將孟達的首級傳於京師之後,魏國朝野掀起了極大的波瀾。
曹睿看了司馬懿的請罪奏章之後,明白了事情的始末，出於對司馬懿的信任他並沒有想要責怪的意思,反而還想大肆獎賞他，這時曹真站出來反對說：
“孟達造反一事尚沒有完全定論,就算是確有其事,舞陽候也沒有權利擅自動兵攻伐我國城池，更不要說殺害鎮守邊境的大將了。如果陛下因此時獎賞司馬懿的話，那麼就會開了一個很不好的口子，從而有增加武將相互攻伐的風險，還請陛下明察！”
不得不說曹真的話很有道理,從大局上考慮來說也不應該封賞司馬懿，於是曹睿放棄了原意,命令司馬懿在馬上將所部人馬撤回至宛城,然後以邊郡新附、戶口不實爲由將司馬懿請回京師洛陽徵詢意見,由襄陽太守孫禮暫代其職位，實際上是在無形之中削去了他的兵權。
這一點自然瞞不過司馬懿，他也早就料到了會有這樣的局面，不過他更加清楚的是曹睿之所以這麼做，並不是完全出於他的本意，而是迫於朝野上下的壓力而已，用不了多久自己一定會回到原有的位置，所以他心甘情願的奉詔返京。
公元228年（蜀漢建興六年）一月初，得知司馬懿被削去了兵權調回洛陽之後，諸葛亮認爲時機已經成熟了，於是便開始利用這段空檔趁機發動北伐戰爭。
在起初商討具體策略的時候，魏延提出了自己經由子午谷奇襲長安的大膽想法，但諸葛亮認爲這樣沒有足夠的把握，風險很大，所以沒有同意。
而馬謖卻認爲這是個好主意，於是在散帳之後他尾隨諸葛亮回到了書房，企圖說服他。
但這時司馬昭卻認爲諸葛亮沒有采用魏延的計策是正確的，他對馬謖解釋說：
“雖然魏延將軍的計略有一定的道理，或許也能收到他所說的奇效，但同時風險也很大，此次北伐是丞相首次出兵，不可輕易弄險，否則不僅會讓魏將軍陷入進退維谷的境地，也會對軍心士氣造成很大的影響。”
馬謖是個心高氣傲的人，他不想被除了諸葛亮之外的任何人教訓，更不要說是個十八歲的毛頭小子了。或者說正是因爲司馬昭反對自己的觀點，纔會讓他更加堅持。
可令他難以接受的是，諸葛亮最終並沒有採納他的想法，於是馬謖一氣之下拂袖離去。
最終諸葛亮採用了比較穩妥的方略：
先是公開對外宣稱自己要從斜谷道攻取郿縣，直接威脅長安，並以趙雲、鄧芝在箕谷作爲疑兵吸引曹軍的主力。而諸葛亮自己則親率八萬大軍（對外宣稱三十萬）大舉進攻祁山，從西向東、逐步蠶食。
當司馬懿剛剛交出兵權到達洛陽時，便收到了諸葛亮親自領兵攻打祁山的消息，很快隴右五郡中的南安、天水和安定三郡就叛魏降蜀，郭淮只好帶着天水太守馬遵堅守上邽，梁緒、尹賞、上官雝等皆歸順諸葛亮，天水郡參軍姜維因被郭淮和馬遵遺棄也只得投降。
考慮到情勢已經非常嚴峻，而司馬懿又恰好在此時回到了洛陽，爲了防止曹睿再度任命司馬懿領兵前往隴右，大將軍曹真主動請纓率領大軍前去抵禦諸葛亮的進犯，而曹睿在審時度勢之後也同意了他的建議，並且親自前往長安坐鎮，派遣大將軍曹真督軍至郿縣抵禦趙雲，而張郃則率兵五萬從陳倉起兵，進入廣魏郡策應已經被孤立的郭淮。
同時命令涼州刺史徐邈協同金城太守郝昭出兵東進，進攻南安郡，一場大戰即將爆發。
攻下了祁山之後，諸葛亮率軍進入了天水郡的冀縣，並以此作爲大本營指揮作戰。
當時蜀郡的主力分成三個部分，其一包圍上邽的郭淮、馬遵，其二在廣魏郡領土作戰，其三則在南安郡阻擊涼州來援的魏軍。很快在蜀軍的猛烈攻勢之下，基本佔據了整個廣魏全境，而張郃的大軍已經通過了汧縣，正朝着廣魏腹地挺進。
諸葛亮深知張郃是當世名將，他接下來的目的肯定是攻取咽喉要地街亭，從而切斷蜀軍和安定的聯繫，這樣以來也會讓諸葛亮完全從主動轉爲被動的境地。
左右權衡之後，諸葛亮準備啓用擁有豐富經驗的吳懿爲守街亭之將，恰好司馬昭也認爲吳懿是沙場老將，應該可以勝任，然而正是因爲司馬昭的話，令馬謖更加燃起了想要通過一戰來重新贏得諸葛亮的重視，於是他馬謖卻站了出來極力要求自己來擔任守衛街亭之職，並願意立下軍令狀。
見馬謖如此堅持，諸葛亮只好命他擔任街亭守將，不過諸葛亮心中總是感覺到不安，於是預先想要了對策，並在馬謖臨行前再三囑咐他街亭的重要性，一定要按照自己的計劃防守，這樣便可擋住張郃的人馬，千萬不要自作主張。
馬謖表面上滿口答應諸葛亮的話，但卻根本就沒有聽進去。
諸葛亮也看出了馬謖守街亭似乎會有變數，於是又作出了部署，命令頭腦冷靜的王平作爲馬謖的副將，高翔駐守街亭以西的列柳城，而魏延也另一軍在街亭的東側山谷作爲接應。
儘管能做的都做了，但諸葛亮還是感到不安...
果然不幸被他給料中了：
馬謖率軍來到街亭之後，根本就不聽諸葛亮“把守要道口”的戰略思想，而是下令將大軍全部屯守於南邊的孤山之上。
爲此副將王平苦苦相勸，卻依舊沒有被馬謖所採納。
無奈之下王平只好將馬謖的行軍佈陣圖飛馬傳回了冀縣，諸葛亮看後頓時感到五雷轟頂，雙腿的力氣彷彿都被抽光了一般癱坐了下來，站在一旁的司馬昭見狀連忙扶住了他。
只見諸葛亮的眼神之中充滿了絕望，不斷重複着相同的兩個字：
“完了...完了...”
跟隨在諸葛亮身旁這麼長時間的司馬昭，對於他的印象始終都是鎮定自若、料事如神，還是頭一次看到諸葛亮如此的悲觀和失魂落魄。