一九四四年初秋，有幾件事對粟裕來說是值得慶賀的事。
一是四分區則取得了反“清鄉”鬥爭的決定性勝利，經過一年零七個月的艱苦鬥爭，此時不僅恢復了“清鄉”以來被日僞佔領的地區，而且使根據地有所擴大。日僞的“擴展清鄉”、“強化屯墾”宣告破產。二是處在二、三分區的國民黨稅警總團倒行逆施，與姜曲線僞軍公開勾結，掩護特務，荼毒羣衆，在聯抗邊區先後捕捉民兵數十人，殺害與活埋新四軍幹部，斷絕新四軍南北交通，阻撓、破壞蘇中根據地的建設。蘇中各界紛紛要求新四軍下令討伐，以清除抗戰陣營中的害羣之馬。經中央**、**和軍部同意，一師發起討陳戰役，擊斃、俘虜頑、僞兩千餘人。進攻陳泰運期間，日寇山本旅團長下令從泰州、海安、東臺等地調集了三千餘日僞軍，公開多路向陳泰運增援，後陳泰運率殘部數百人逃到日僞據點，被編入僞第二十五軍。
對粟裕個人來說最開心不過的是他的兒子粟戎生從揚州來到固晉。因有被敵人發現的跡象，粟裕的岳母親自把不到兩歲的戎生送到粟裕身邊。老人家第一次看到她的女婿，粟裕也第一次見到看到岳母和自己的兒子。——兒子虎頭虎腦，很可愛。兒子正長個，一身衣服太小了，實在不能穿，而且過冬的衣服也沒有。粟裕就親自帶著他的兒子來到供應部說明情況，領取一段布料，給兒子做了一套過冬的衣服。
不過粟裕並沒有多少時間陪伴老人家和兒子，享受天倫之樂。華中局、軍部確定首批南下蘇浙的部隊是由粟裕掛帥後，粟裕開始做南進的準備工作。
粟裕將七團、特務一團、特務四團調至三倉、曹甸等地集中整訓，讓秦叔瑾翻印蘇南和浙東五萬分之一的軍用地圖；派得力幹部先行南下，建立從上海經無錫至長興的比較安全可靠的運輸線；親自選調幹部，提前送他們到新四軍軍部學習；派張日清秘密從上海採購用來製造小口徑的迫擊炮無縫鋼管，又找到軍工部負責人李湘濤，並親自和李湘濤到海上動員，要求軍工部做五百門小鋼炮，五千發炮彈。軍工部的工人們積極性很高，想方設法克服一切困難，努力去完成生產任務。當時海上不能翻砂，岸上的同志積極配合，蒐集了廢銅爛鐵到離敵人據點較遠的地方，行動迅速地架起翻砂棚，船在海邊等著。一翻好毛坯，就用牛車運到船上，在海上創、車、銑，製成武器。
一個豔陽高照的晴日，粟裕正在師部忙碌，固晉村的村長樂立偉來到師部。粟裕看樂立偉村長來了，十分客氣，又是遞煙，又是讓座倒茶，笑著問：“樂村長來有什麼事嗎?”
樂立偉與粟裕老朋友了，憨憨一笑，說：“有這麼個事，村民響應軍區擴軍號召，我們固晉村報名參軍的有很多，我們村幹部經過目測後，決定選送樂廷善和樂振田兩個最優秀的青年。這一人蔘軍，全村光榮。別的村莊都是給參軍青年披紅戴花，然後敲鑼打鼓，吹吹打打，騎馬在周圍幾個村莊轉上一圈，以示威武、榮耀，然後熱熱鬧鬧送到區政府。我們東頭的興隆村沒有馬歡送參軍的，就用兩頭騾子來代替。但我們固晉村是個窮村，不要說騾子，就連驢子也沒有一頭。怎麼辦呢？有人說：找不到，就讓參軍的人跑去吧！有的說：不行！我們固晉不能落後於別的村，還是大家想想辦法。又有人說：辦法是有，到部隊去借，就要找和粟裕師長熟悉的人去談才行。大家一致推選我來，說我和師長關係好。”
粟裕明白來意，一口答應，立即讓警衛員將飼養員叫來。飼養員來後，粟裕要他準備兩匹馬給村長樂立偉。
樂立偉不好意思地說：“師長，我們都是種田人，沒有用過馬，見馬還有點害怕，請您選兩匹老實些的馬……”
“放心，放心，”粟裕一面對樂立偉說，一面吩咐飼養員，“把我騎的那匹棗紅馬借給他們，再挑選一匹好馬，餵飽了，下午你跟他們一起去。”
樂立偉眉開眼笑，得意而歸。
到了下午，那飼養員牽著兩匹馬離開師部，傍晚纔回來向粟裕覆命。
“嘿，可把他們樂壞了。那參軍的兩個小夥騎上這高頭大馬，顯得格外的英俊、神氣，送行的人來了勁，鑼鼓也敲得更響。別村的人問：這馬是哪兒來的？他們自豪地說：看看吧，這是粟裕師長騎的馬！聽到的人無不羨慕眼熱。”
飼養員回來將路上情景在師部一說，師部一片歡笑。
粟裕笑瞇瞇地，他的桌上的擺著幾份報紙，一分區的《**》、三分區的《江潮報》、師部的《蘇中報》，上面都記載根據地羣衆踴躍參軍的事例。據統計，興化縣五天內動員了五百名新兵入伍；如皋縣薛蔡鄉一次就動員七十三個青年參軍；泰興在不到十天內，就有一千零四十五名青年身體檢查合格涌進主力部隊。寶應縣有個老太太已送兩個兒子參軍，又將自己最小的兒子與侄子送來參軍，說：“到新四軍隊伍裡我放心，我們和新四軍是一棵大樹的根上長的。有國纔有家，抗戰勝利才能過好日子。”蘇南日僞“清鄉”區內有些羣衆，也渡過長江投到抗日部隊來，他們說：“不願被鬼子抓去當壯丁送死，要參加新四軍一起抗日。”
這是蘇中區掀起的大參軍的羣衆性熱潮。在各地農村中，幾乎到處可以看到妻子送丈夫、父母送兒郎的動人場面。
參軍熱潮後是練兵熱潮，主力、地方武裝、基幹民兵迅速掀起以提高射擊、投彈、刺殺和土工作業四大技術爲主的練兵熱。“平時多流汗，戰時少流血”的口號就是那時提出來的。
一天，粟裕約陳丕顯去一個主力團視察軍訓情況，爲了瞭解更多的實際情況，出發時，他說：“不要驚動團裡的負責幹部，直接下到連隊訓練場地。”
兩人帶了一些隨從，一早就出發，剛收割的晚稻田裡留有一層厚厚的寒霜。
粟裕和陳丕顯來到訓練場，只見訓練場上戰士們生龍活虎，喊殺聲震天。有的練投彈，有的練刺殺，有的練瞄準，尤其是練攀登障礙物，戰士們個個都像下山的猛虎。
訓練場上的幹部一看是粟裕和陳丕顯親臨現場，趕緊過來迎接，同時準備集合戰士們迎接粟裕。粟裕擺擺手，讓戰士們繼續操練。
粟裕向在場的一位連長詢問：“隊列中那位身體健壯、刺殺動作標準而有力的戰士是哪裡人，哪年入伍的？”
“報告師長，那位戰士是三年前一次戰鬥中俘虜解放過來的僞軍，是靖泰地區人。”
“解放過來的同志在連裡有多少，他們有些什麼主要特點?”
“全連有四分之一。他們自從參加新四軍後，逐步樹立了抗日保鄉、爲勞苦大衆當兵的思想，大多數人軍事技術較好，打起仗來也很勇敢，只有少數人還有些舊習氣，在這方面連里正抓緊政治思想教育工作。”
粟裕聽了彙報，連連點頭，臉上露出了微笑。接著，他走到隊列中，親手幫助戰士們糾正拼刺動作，對戰士說：“訓練場也是戰場，只有將民族仇恨凝聚在刺刀尖上，刺出去的槍纔會更加勇猛有力。”
連隊幹部、戰士深受鼓舞。陳丕顯在一旁聽見戰士們悄聲議論，一個戰士說：“能當粟司令指揮的兵，我就是今天‘光榮’了，全家都高興。”
粟裕在基層看到，官教兵、兵教官、兵教兵，有的採用沙盤作業、民主評議等方式，檢討和總結過去實戰中的戰術、技術經驗及教訓，提高戰鬥和指揮水平；有的單位評選出許多神槍手、爆破手、孤膽英雄，用他們的事例講課，現場傳經，並開展各種立功競賽，搞得熱火朝天。
固晉附近的幾個村莊，幾乎每天都能看到民兵進行練兵的情況。他們有的拿著槍，有的用木棍、大刀、紅纓槍作武器，在曬穀場上練習刺殺，用木頭做的手榴彈進行投擲比賽。有的用稻草紮成靶子有，到處可以聽到“一、二、一”“殺、殺、殺”的操練聲。在那些民兵自衛隊員中，有男有女，有許多是父子、夫妻一起列隊操練。還有一些兒童團員把木棍當槍插在腰間，跟在大人後面喊口號。
十一月十二日，粟裕和副師長葉飛到淮南**華中局、新四軍軍部開會。會上，軍部負責人饒漱石宣佈中央已批淮華中局的部署，由粟裕先率領第七團、特務一團、特務四團三個團七千餘人及由中央、華中局、蘇中區黨委分別調集的各類幹部三百餘人首批南下，會合十六旅、浙東遊擊縱隊發展蘇浙敵後。當時有消息說，日寇面臨盟軍的強大反攻，擬搶先解決中國問題，甚至準備在中國大陸與英美決戰。中央根據當時的形勢，估計對日戰爭時間可能延長，因而對發展的部署也作了較長期的打算，準備由譚震林、葉飛同志相繼率第二、第三批主力南下，必要時甚至再組織後續南下梯隊。
粟裕回到固晉，當下按在軍部的部署抽調部隊和幹部。陳丕顯的心情又高興又難過：既看到根據地又向長江以南延伸、擴展了，爲迅速發展的大好抗戰局面歡欣鼓舞，又爲親密無間的好領導、老戰友粟裕即將離開蘇中感到依依不捨。陳丕顯不形於色，和粟裕一起迅速開展南下的準備工作，他抽調了大批地方幹部，籌集了大量軍需物資，支援向南發展。
此時預定南下的各部隊已分別在三倉、曹甸等地集中整訓了兩個多月，開展軍事大練兵，進行形勢和政策教育，整頓了組織，補充了兵員和武器彈藥，補發了服裝和全新的皮子彈袋，做到齊裝滿員。爲了適應南方山地作戰，南下的每個連隊又裝備了三門自制的52毫米小炮，營成立了裝備有自制73毫米迫擊炮和重機槍的機炮連，團則組成了有洋造82追擊炮的炮兵連。與此同時，從上海等地採購的醫藥用品和通訊器材已運到蘇中，還準備有大量法幣和一些金銀以便必要時在新區使用。
十二月二日到四日，蘇南的王必成、江渭清發來電報，說國民黨集中六個團的兵力統一歸六十二師師長劉勳浩指揮，進攻廣德、長興地區，王、江二人擬集中十個營突擊殲其一路，打退頑軍進攻。那一帶正是此次南下的目的地，粟裕回電要他們集中兵力殲滅薄弱的一路，機斷處理。
十二月五日，蘇中成立南下司令部，爲保密對外稱“練兵司令部”，由劉先勝負責。粟裕從師部調作戰參謀嚴振衡、管理科的王重、通信科科長兼電信大隊大隊長李景瑞等人加強司令部力量，又要秦叔瑾從測繪室選業務較強的二十人跟他南下。當天，粟裕離開固晉前往淮南。
粟裕從師部抽走幹部後，留守的機關有點冷清。不只是師部是這種情況，七團、特務一團和四團也向根據地和留守部隊調幹部、調槍。一些剛剛發展起來的地方部隊被編並後只留下一些湊湊門面，站站崗。去的人充滿信心與熱情，興高采烈，留守的人員一看好點的東西都搞光了心裡不快。
粟裕心裡不安，啓程前叮囑葉飛、陳丕顯、管文蔚等幾位負責人，說：“此次奉命南下，除帶走一師部分指揮機關人員和三個主力團，還有三百多名地方黨政幹部與我們同行，蘇中根據地這個大攤子，就託付給你們了。根據黨中央和華中局的戰略意圖判斷，南下是個大動作，還會繼續從我們蘇中抽調相當數量主力跟進，對這一條也應有充分的精神和物質準備纔好。部隊的鐘期光、劉先勝、陶勇、阮英平、彭德清等領導同志及地方的惠浴宇、陳揚、周林等同志都是首批南下的，到了軍部，還打算把派在黨校學習的彭冰山等同志也帶到南邊去。蘇中黨政軍各級應儘早將領導人員充實配備齊，主力和地方武裝還要加緊擴大，切不能像俗話說的那樣‘拆東牆補西牆’，那我可不好交賬啊!”
粟裕身負重任，揮戈蘇浙，這是華中大棋盤上的金角加銀邊，已夠他操勞的了，但他念念不忘日後蘇中根據地的建設。他和葉飛、管文蔚一一握了手，最後對陳丕顯說：“阿丕同志，葉飛接任區黨委書記後，因軍事上他要負全責，區黨委工作還是你主持常務，有什麼大事就跟過去一樣，多和大家商量商量，相信擔子再重也壓不垮你的，年輕人嘛!”
葉飛、陳丕顯一直陪著粟裕一行西去，出了固晉村又步行了好一會兒。粟裕再三勸大家留步，最後見勸不住，就騎上馬回過頭來與送行的人揮揮手，隨即手抖繮繩，兩腳一夾，奔向前方。
離開固晉的隊伍中有一個叫蒯斯曛的人，年齡比粟裕還大一歲。蒯斯曛是上海復旦大學畢業的，畢業後在上海當過文學雜誌編輯，出版過短篇小說集，通好幾門外語。他是這年秋天才調到粟裕身邊擔任秘書。他到固晉沒多久，但馬上跟隨粟裕離開固晉踏上南進之路，開始度過他人生中最輝煌的歲月。