爲了確保這一地區安全，蘇皖邊區黨的負責人劉龍同志親自來洪澤湖之北成子湖以西的界頭集召開會議佈置任務，並進一步明確6團歸胡服同志指揮，把和胡服同志聯繫的電臺密碼本給了6團。
隨後，這裏建立了皖東北地委、專署和保安司令部，常清同志兼任保安司令員，胡成兼參謀長，統一指揮6團和各地方武裝力量，保衛以江蘇泗洪爲中心的泗縣、盱眙、鳳陽、嘉山、五河、靈璧等皖蘇邊境5縣16區。
五縱主力東進淮海後，皖東北蘇皖邊界周圍之日、僞、頑軍，乘機向我根據地滲透，妄圖逐步“蠶食”我根據地。皖東北地委爲了加強對這一地區的對敵鬥爭領導，令6團統一指揮這一地區武裝力量，以保安司令部名義召開各地武裝領導幹部會議，統一佈置兵力，反擊敵軍，保衛根據地。
會後，根據分工，活動於泗、五、靈、鳳地區的沱河大隊負責接送過路幹部；
活動在淮河以南盱、鳳、嘉地區的獨立營，負責維護淮河交通運輸；
活動在淮泗地區的湖東大隊，負責淮海區域各地幹部往來的聯繫和護衛；
活動在盱眙外雙溝至管鎮一帶區武裝和6團派出的偵察排，主要負責監視盱眙僞軍行動。
6團在這裏駐了大半年，組織指揮部隊和地方武裝力量，與日、僞、頑軍打了幾十仗。
1940年初冬，日寇一部“掃蕩”青陽鎮東北的五龍背、新行圩、朱湖和金鎖地區。6團用1個營掩護黨、政機關轉移到洪澤湖東岸，集中2個營在五龍背、朱湖、新行圩阻敵。激戰一天，斃傷日、僞軍百餘人。
1940年隆冬，6團與敵頻繁交戰。
6團於泗縣至青陽鎮之間的馬公店反敵“蠶食”我根據地，殲敵50餘名；
盤踞洪澤湖之股匪，襲擊我軍成子湖東北破草圍子一帶，切斷我根據地東西交通線。6團以1營擊敵，殲敵50餘名，並乘勝奔襲成子湖北，殲熊圍子頑匪百餘人，俘敵團長熊英以下70餘人，恢復了我根據地東西線；
淮陰、泗陽邊境反動會道門紅槍會暴亂，6團一舉平息；
侵佔大張集、大柏圍子的僞軍，企圖“蠶食”我根據地，6團主力西進，對其發起凌厲攻勢，殲敵200餘人，繳獲輕機槍3挺，步槍60餘支，粉碎了敵人的“蠶食”計劃；
堅持本地反“掃蕩”鬥爭，在靠敵隴海路據點很近的泗陽、宿遷兩縣境內，與敵人搞拉鋸戰，敵人白天來“掃蕩”八路軍，八路軍就晚上去襲擊敵人，僅在張集一地，我們就反覆襲擊了敵軍3次，最後終於把這裏的敵人趕了出去。在這一地區總共殲敵400餘人，繳獲機槍6挺，步槍300餘支，騾馬30餘匹。
青陽鎮是皖東北根據地蘇北境內的一個大鎮今泗洪縣，南北西三面臨濉河，北河兩岸有土堤夾峙，東隔一道泥溝與陸地相結。全鎮實際上是建在濉河在此分岔沖積形成的孤島上的。
青陽鎮是皖東北根據地政治、經濟、文化中心，是濉河下游的重要水陸碼頭重要商埠，特別是海鹽的重要集散地之一。這裏商業發達，物資豐富，人口逾千戶，是根據地籌集財政物資的重要資源地，長期讓敵人垂涎欲得。因此，保衛好這個鎮，是6團極其重要的中心任務。
那時的地方政府機關，不像現在有固定的地方，皖東北根據地此時尚不十分鞏固，經常和敵人搞拉鋸戰，地委、專署爲自身安全起見，不長住一個地方，只以青陽鎮爲中心，在鎮東北、正東方向朱湖至半城、鎮南方向雙溝至管鎮、鎮西方至馬公店以東一帶流動，有時，也進青陽鎮小憩。
爲保地方黨政機關安全，6團經常派出一個營跟隨其附近活動，並配有幾名便衣偵察員，始終緊隨其隊，隨時向團部報告其行動方向、地點，以防不測。
1940年冬的一天傍晚，6團負責聯絡地方政府的偵察員忽然來報：
皖東北專署機關帶一個地方警衛連，由魏營向北轉移，已經進入青陽鎮住宿。
這時，團長胡成正率2營和警衛連2個排在鎮西南30裏外上塘集附近活動。
此前，胡成已風聞敵軍要外出活動，接到偵察員報告後，胡成擔心專署機關進鎮有危險，急忙率兵北返青陽，於當晚10時許進鎮佈置兵力防敵。
胡成將個連也就是4連佈置在東郊祠堂；一個連也就是5連佈置在鎮東郊土堤下；6連1排個排佈置在鎮北河沿及橋頭；6連2排一個排佈置在南渡口；6連3排一個排佈置在鎮西端東頭。
各部進入戰鬥位置後，迅速修好了工事守衛。
團長胡成自己帶警衛連兩個排於鎮中作機動，策應各部。同時，請專員公署祕書長孟東同志指揮專署警衛連防守鎮東南角要道。
6團進鎮兩小時後，敵軍就已經趕到，迅速包圍了青陽鎮。
戰後查實，這次敵軍獲悉漢奸密報我專署機關幹部進青陽鎮住宿的消息後，糾集了睢寧、靈璧和泗縣等地日、僞軍700餘人，妄圖偷襲我專署機關，完全是有備而來的。
敵軍趕到後，亦立刻展開部隊圍鎮，可他們萬萬沒想到八路軍已先作好了準備。
次日拂曉，青陽鎮四周突然吠聲四起，團長胡成斷定有情況，立刻下令各部隊進入戰鬥位置準備作戰。
果然不出所料，部隊剛進入陣地，我軍哨兵即發現敵人摸進來了。敵人漸漸靠近，我軍前沿陣地突然開槍，敵軍失算，一排排地倒了下去。