344旅奉命支援新四軍，1940 年南下，於7月抵達“淮上”。八路軍第2縱隊南下部隊與新四軍第6支隊合編爲八路軍第4縱隊。344旅改編爲新4旅。
爲了制訂中央的指示，八路軍第4 縱隊進行了分兵，羅大將率領新2旅以及344旅687團向東發展，跨過了隴海線，進入了蘇北地區。
而344旅新688團、689團以及新2旅4團留在了蘇豫皖地區。不久，以隴海線爲界，隴海路東的八路軍新四軍部隊改編爲八路軍第5縱隊，而八路軍第4縱隊留在隴海路西的部隊依然屬於八路軍第4縱隊的建制。
此時，豫皖蘇抗日根據地東起津浦鐵路，西至新黃河，南跨渦河，北達隴海鐵路的廣大地區，面積爲1萬多平方公里，人口約300萬。到1940年底，豫皖蘇邊區黨委轄淮上、渦澮、隴海路南、豫皖和睢縣杞縣太康5個地委，2個專署、5個縣政府和6個辦事處。
豫皖蘇邊區是聯繫華北、華中的要點，是蘇北、山東的門戶。
控魯、豫、蘇、皖之要，扼隴海、津浦之交，是白軍滲透山東、蘇皖的必經之地，也是新
四軍西進和八路軍南下的前進陣地。
戰略地位的重要，自不待言。
僅就經濟來說，渦河下游的稅收每月達五、六十萬，是安徽的大稅收機關之一，蕭縣鹽稅
每月也有八萬元。
但此地易攻難守，因爲這一地區主要是平原，交通方便，村莊稠密，到處都有圍寨、炮樓、水壕，山嶽罕見，僅在蕭縣津浦路旁有一南北長約五、六十里，寬不到十里的東山。在碭山以南還有一茫碭山，周圍沒有二十里，孤立於平原上，山上無樹木，軍事上毫無價值。
“皖南事變”後，新4旅改編爲新四軍第4師10旅，新688團改稱28團、689團改稱29團、4團改稱30團。旅直和30團駐河龍亢，28團駐羅集一帶負責監視頑軍，29團駐河溜鎮一帶，負責監視和抗擊懷遠縣方面的日僞軍。
從10旅部隊既監視頑軍、又監視日僞軍的鬥爭態勢看，“淮上”地區，新四軍4師10旅及路西抗日前線部隊在當地日僞頑軍夾擊下，所肩負的任務是非常的艱鉅。親親小說 .qinxs.
淮上地區，指淮河以北、澮河以南、津浦鐵路以西、宿州至蒙城公路以東地區，包括今天的懷遠全部、固鎮一部分。
6月1日，第六支隊於新興集召開“五卅”紀念大會。日寇1000餘人趁機分數路襲擊我軍，紀念大會的會場變成了殺敵報國的戰場。我參加大會的各部隊，分數路與日寇激戰於新興集附近周圍，打得敵人首尾難顧，不得不於黃昏敗退。6月3日，我軍在新興集附近的鴨子劉家，繼續召開了“五卅”紀念大會，表達了我軍誓雪國恥的堅強意志。
“六一”戰鬥後不久，肖縣成立了“肖縣抗敵縱隊”，各縣均成立了自衛團司令部。與此同時，又成立了“豫皖蘇邊區保安司令部”，作爲地方武裝的統一領導機關，以便加強地方武裝建設。
國民黨反動派發起第二次反共高潮後，地處山東、蘇北戰略支點的淮上首當其衝，面臨着不僅僅是日僞新的“掃蕩”，而又增加了頑軍的“摩擦”，猶如“山雨欲來”之勢。
1940年8月，桂系國民黨軍、騎八師馬彪部四個師的兵力，在我四縱隊開闢淮上根據地之際，對我形成三面包圍的態勢。騎二軍何柱國對我態度亦趨惡化，皖北磨擦有一觸即發之勢。我第四縱隊利用國民黨第一戰區和第五戰區的矛盾，採取區別對待的策略，開展統一戰線工作，並對頑方作了某些讓步，同時也作了自衛還擊的準備，使局勢暫時得到了緩和。
11月中旬，蚌埠、宿縣等地的敵僞五千餘人，附坦克二十餘輛，進犯蒙城、渦陽，爲粉碎敵僞的“掃蕩”，第五旅和特務團在蒙城以北的板橋與敵人發生戰鬥，激戰三晝夜，斃傷敵僞千餘人，擊毀汽車、坦克十餘輛，擊落飛機一架，嚴重地打擊了敵人。我第四縱隊在與敵僞頑的鬥爭中，以軍事打擊和政治分化等手段，鞏固和擴大了豫皖蘇根據地。
12月12日，豫皖蘇邊區發生一個嚴重事件，使永城以北、蕭縣、碭南、夏邑地區爲叛軍盤踞，從而使反頑戰役開始時，新四軍4師的側背一直處於不穩定的狀態，後果是相當嚴重的。
1941年初，繼“皖南事變”之後，蔣介石又調集三十萬反共大軍向華中發動進攻，妄圖首先“肅清”津浦路以西之我軍，爾後向蘇北、山東深入，以實現將我軍“驅逐”到黃河以北，配合日寇聚而殲之的毒計。
當時頑軍進攻的主要矛頭是直指新四軍第4師及豫皖蘇邊區。白黨軍湯恩伯部92軍與騎2軍、騎8師等部，加上國民黨收編的保安團、地方部隊兵力爲新四軍第4師的7倍，向渦河以北挺進。
一些叛軍以及地方上的其它土頑，在我軍根據地附近騷擾，再加上日僞軍的“掃蕩”和突襲，使新四軍4師部隊處於敵、僞、頑夾擊的嚴重形勢之下。
黨中央預計到華中反頑鬥爭的長期性，指出：
必須在鬥爭中，逐漸削弱反g軍的力量，逐漸鍛鍊與壯大我們的力量，才能最後擊破反g軍的進攻。爲此，既要緊張地對付反g軍大舉進攻的嚴重局面，又必須耐心地作長期計劃，不要過於急躁，不要企圖在短期內就能取得全部勝利。