中國的長期抗戰大量消耗和削弱了日本的戰爭實力，日本的經濟形勢到1944年已極度惡化。到1945年初，日軍大本營做出了一個評估，他們認爲，日本能夠有組織地進行戰爭的時間，即便竭盡所有努力，大概也只能以1945年中期了。
此時的中國正面戰場，國民黨軍主力大部在西南大後方，前線部隊受豫湘桂戰役失敗的影響，軍心動盪，實力受損，所以，中國戰場的大反攻任務主要落在敵後戰場上，敵後戰場將持續近兩年的局部反攻轉爲全面大反攻，向日軍發起猛烈的最後一戰。
1945年8月10日24時至11日18時，八路軍朱總司令連續發佈關於受降和對日展開全面反攻等七道命令，要求各解放區抗日武裝部隊向其附近的日、僞軍送出通牒，限他們於一定時間內向人民軍隊繳械。所以敢於抵抗的日僞軍全部堅決消滅。
消息傳到了山東，山東軍區的羅政委立即組織軍隊向着日軍展開了最後一戰，冷雲峯在得到消息後，決定拔掉臨沂城！
此時的臨沂城，在八路軍的重重圍困之下，早已成爲了孤城，城內的石井一夫經過了一年的圍困，兵員緊缺，糧食只能配給制，在得知八路軍號召進行最後一戰之後，石井一夫知道，決戰的時候到了，八路軍是一定不會放過臨沂的，然而，石井一夫卻是一個瘋狂的軍國主義份子，他並不打算突圍，他知道，突圍不過是死路一條，與其死在逃跑的路上還不如魚死網破，他決心以所有的兵力固守臨沂，直至玉碎！
臨沂的地理位置與戰略意義十分重要，羅政委對臨沂的攻堅戰給以了高度重視，親自佈置作戰任務，組建瞭解放臨沂前線指揮部，並決定調用3個主力團和1個地方獨立團參戰。而身分九分區的司令員，冷雲峯當仁不讓的成爲了臨沂前線指揮部的最高指揮官。
8月17日，我軍發起進攻，當日就佔領了四關。
在經過了兩天的準備後，8月20日、22日，我軍又連續兩次強攻。在猛烈的火力掩護下，戰士們駕雲梯登城。
教導一團的5名戰士登上城牆後，因雲梯被打斷，後續部隊不能跟進，他們獨立作戰，攻佔了城東南角的大碉堡，頂住了敵人無數次的進攻，最後，五名戰士彈盡援絕，壯烈犧牲。
城下我軍被敵人猛烈的火力封鎖，進退艱難，傷亡較大，有的跳到護城壕內的深水裏繼續戰鬥。前線指揮部中的冷雲峯見強攻隊我不利，命令部隊暫時返回陣地。
此戰之後，冷雲峯意識到，強攻臨沂必然會付出重大傷亡，所以，一定要打巧仗纔行，冷雲峯決定開展軍事進攻與政治進攻相輔佐的方法，晝夜向敵人喊話。
臨沂前線，城下，
“僞軍弟兄們，不要爲大漢奸賣命了，你們都有妻兒老小，總得給自己留條後路吧!”
“你們已成了甕中之鱉，鬼子都投降了，魯南地區都解放了，孤單單的一個臨沂城能守多久?只有繳槍投降纔是唯一的出路！”
八路軍運用廣播消息、奏樂、吹簫、唱歌、寫大字標語、向城上射傳單等方式，都收到了很好的效果。
部隊最初喊話時，僞軍爲避免“督戰隊”的懷疑，不得不放上幾槍。時間一長，只要“督戰隊”不在場，個個都伸直脖子聽我軍的宣傳。我軍戰士給他們送去的香菸和宣傳品，他們也都收下。
有些僞軍，爲求生路，趁夜晚逃下城牆，跑到我軍陣地。僞軍第六大隊機槍中隊的1名僞軍，聽了喊話，不顧一切大白天跳下城牆，還帶出1支“捷克式”和6排子彈。
在這件事情之後，石井一夫派出的“督戰隊”加強了對僞軍的監視。在東門，3名僞軍因向城下回話遭到舉報被扣押，其中1個僞軍在被押走時知道自己怕是活不成了，向八路軍陣地大聲喊道：“我叫王石衡，是城北人，反正這個漢奸我幹夠了！這回我是完了，八路軍同志要替我報仇啊！共產黨萬歲!八路軍萬歲！”他一邊喊着一邊被“督戰隊”拖走了。
其餘的時間，八路軍總是不斷的開槍擾亂日僞軍，其目地是掩護我軍在城西北角祕密實施地道作業，以便進行大面積爆破。
經過八天八夜的努力，一條100多米長的坑道終於挖成。工兵連夜向坑道里運送炸藥兩千公斤。最終，坑道里面用棺材裝上了6000斤黑色炸藥，內加300斤梯恩梯，安上電火導火索。一切準備就緒，各部隊作好充分準備，迎接第三次總攻的到來。
到了九月十日清晨，冷雲峯早早起來，今天是進攻臨沂決定性的一天，能否攻下臨沂城，就在此一舉了，見準備就緒，冷雲峯大手一揮，按照預定計劃進行爆破，驚天動地一聲巨響，帶着硝煙和塵土的氣流向四面猛烈衝擊，城西北角的大碉堡已無影無蹤，城牆上奇蹟般的閃出了一道30多米寬的大豁口。接着，我軍自晨至午時連續兩次向突破口進行攻擊。因遭正面敵人的頑抗和左右兩翼火力的封鎖，都沒有奏效。
十一日凌晨1時15分，我軍趁着夜色發起了總攻，東、南兩面佯攻配合，西北突破口主攻。我突擊部隊衝上城牆，向敵逼近。
敵人憑藉工事，作垂死掙扎，他們投擲的手榴彈成堆地在突破口爆炸，我軍也以成堆的手榴彈還擊。
“小鬼子，我日你祖宗！”關健時刻，一個戰士站了出來，他趁着夜色衝到了敵人的工事前，把一個10公斤的大炸藥包塞進敵人工事，轟的一聲巨響，將敵人的火力炸啞，我軍乘機佔領了突破口陣地。
石井一夫見城牆被八路軍突破，不由大驚，他立即組織城內能組織起來的日軍，包括督導隊在內，連續組織了8次反撲。