契丹在側，趙延壽不想辦法解決，依舊自我沉浸在做中原帝王的美夢中，四月二十七日，趙延壽下令，於下月初一在待賢館舉行儀式上書言事，接受文武官員的祝賀。禮儀是：宰相、樞密使在階上叩拜，節度使以下在階下叩拜。李崧認爲契丹人意向不同，事情難測，竭力勸說趙延壽免行這個禮儀，此事才作罷。
到了五月初一，永康王兀欲召請趙延壽及張礪、和凝、李崧、馮道等人到自己的館舍飲酒。兀欲的妻子素來以兄長事奉趙延壽，兀欲就從容地對趙延壽說：“妹妹遠從契丹來，難道不想見見她嗎？”趙延壽欣然和他一起走入後堂。過了許久，兀欲纔出來，對張礪等人說：“燕王蓄謀反叛，剛纔已經把他鎖起來了。”又說：“先帝在大梁時，留給我一個計劃，允許我主持南朝軍國大事。近日駕崩之前，沒有其他遺詔。而燕王擅自主持南朝軍國大事，豈有此理！”兀欲下令道：“趙延壽的親友朋黨，全都開釋不予查問。”
隔了一天，兀欲到待賢館接受蕃、漢官員的拜賀，笑着對張礪等人說：“燕王如果真的在這裏行這種禮儀，我就會用鐵甲騎兵包圍此地，諸位也就難免遭殃了！”幾天以後，兀欲集中蕃、漢大臣到恆州府衙，宣讀耶律德光的遺詔。遺詔大略說：“永康王，是大聖皇帝的嫡長孫，是人皇王的長子，太后所鍾愛，羣情所歸，可以在中京即皇帝位。”於是開始爲先帝舉哀，君臣穿起喪服。然後兀欲又換上吉服接見羣臣，不再行喪禮，歌聲樂聲在署內響個不停。
天福十二年五月初七，劉知遠任命絳州防禦使王晏爲建雄節度使。劉知遠召集羣臣在朝廷商議進軍路線，衆將領都建議從井陘出兵，攻取鎮、魏二州，先平定河北，河南就會自己拱手稱臣。劉知遠自己想從石會出兵，進軍上黨。
郭威說：“耶律德光雖然死了，可是黨羽部衆還 很強盛，各自佔據堅固的城池；我們出兵河北，士兵缺少，道路迂迴，旁邊沒有接應救援，如果各部胡虜聯合攻擊我軍，那麼我軍前進則受阻擊，後退，則受攔截，運糧道路也會斷絕，這是條危險的道路！上黨的山路艱險難走，沿路糧少民窮，沒有供給，也不能走。近來陝、晉二鎮相繼向我們投誠歸附，如果率兵從這裏走，是萬無一失的，不出二十天，洛陽、大梁就可平定了。”劉知遠道：“愛卿所說極是。”蘇逢吉等人說：“史弘肇的大軍已駐紮在上黨，胡虜們相繼逃跑，不如從天井出兵，奔赴孟津最爲便捷。”司天官上奏也道：“太歲星在午的方位，不利於南行。應該從晉、絳二州進軍到達陝州。”劉知遠就定下了從晉州一帶進軍。五月初七，詔令說五月十二日從北京發兵，向各道發出通知。
五月十二日，劉知遠從太原起兵，從陰地關開往晉、絳二州。
五月十三日，史弘肇奏報攻克澤州。開始，史弘肇進攻澤州，刺史翟令奇死守城池，攻不下來。劉知遠認爲是史弘肇兵少，想召回撤兵。蘇逢吉、楊邠說：“現在陝、晉、河陽都已歸順我朝，崔廷勳、耿崇美早晚要逃跑，如果召回史弘肇，那麼黃河以南就會人心動搖，而胡虜的氣焰會再度囂張起來。”劉知遠派人問史弘肇的意見，史弘肇說：“軍隊已到達此地，就像勢如破竹，只能前進而不能後退。”史弘肇與蘇逢吉等人的建議相吻合，劉知遠於是聽從了這個意見。史弘肇派部將李萬超前去說服崔令奇，崔令奇就歸降了，史弘肇命李萬超代理主持澤州事務。
契丹崔廷勳、耿崇美、奚王拽刺聯兵逼近河陽城，張遇率領幾千人馬前往救援，在南阪和敵軍展開戰鬥，戰敗而死。武行德從河陽城中出來助戰，也戰敗了，退回城中閉門自守。拽刺想要攻城，崔廷勳說：“現在契丹的軍隊已向北撤退了，得到這座城池有什麼用！而且殺死一個人還 覺得可惜，更何況毀滅一個城呢！”聽說史弘肇已取得澤州，契丹聯軍於是就放棄河陽，退守懷州。
史弘肇軍隊臨近澤州，崔廷勳等人率領衆軍向北逃走，路過衛州，大肆搶掠一番後離去。契丹在河南的軍隊相繼逃往北方，史弘肇領兵和武行德會師於河陽。
史弘肇爲人穩重堅毅、沉默寡言，統領軍隊，號令嚴明、軍紀整肅，大小將領稍不服從命令，立刻打死；士兵經過的地方，凡侵犯百姓田地和在樹上繫馬的，一律斬首。史部人人小心謹慎，不敢違犯軍令，所以所向無敵、攻無不克。劉知遠從晉陽一路平安進入洛陽和大梁，士兵的刀槍沒沾過血，都是靠了史弘肇之力，從此更加倚重、喜愛他了。