就在我軍日夜向東北前進的時候，蘇聯政府根據蘇、美、英三國政府1945年2月簽訂的《雅爾塔協定》，於1945年8月14日由外長莫洛托夫和國民黨政府外長王世傑在莫斯科簽訂了《中蘇友好同盟條約》。條約除規定了蘇聯將在東北地區的大連港、旅順港、中長鐵路等問題上保持若干特權之外，蘇聯將在日本投降之後三個月從東北撤軍，將東北交還給中國政府，亦即國民黨政府。這個條約，國民黨政府立即就向全國公佈了。正是鑑於這個條約，我黨中央纔在向全黨的指示中提出了上述的一些具體辦法。因爲我黨中央已經估計到，蘇聯“受中蘇條約之限制，必然將東三省交還國民黨政府，國民黨政府亦將進入東三省。我黨進入東三省後，紅軍必不肯和我們做正式接洽或給我們以幫助”。但是由於中蘇條約也明白規定了不干涉中國內政，而在三個月中，國民黨政府絕不可能全部控制東北，所以，我們完全可以在三個月中控制大部分地區。特別是熱河和察哈爾不在東三省的範圍之內，所以，中央指出：
“熱河、察哈爾兩省不在中蘇條約範圍之內，我必須完全控制。”
雖然我黨對當時中蘇之間在東北可能出現的問題都做了若干估計，提出了若干辦法，但雙方的矛盾總是要出現的，肯定是要進行談判的。
我黨中央對於蘇聯方面對我黨在東北活動所表示的最早態度，是從山東方面獲得的。8月下旬，山東軍區的膠東軍區根據中央指示精神，派了一支偵察小分隊從海上前往遼東半島，在莊河登陸後，前往大連同當地蘇軍作了接觸，大連的蘇軍負責人說：紅軍只控制大城市，八路軍在鄉村的活動他們不干預，在城市裡的非武裝活動他們也不干預。山東軍區很快將這一情況向中央做了彙報。中央在9月11日給山東軍區發出指示，要他們馬上抽調12個團，由蕭華指揮，經海上進入東北，用東北義勇軍等名義活動，在鄉村和中小城市發動羣衆，建立政權。
可是，在瀋陽所發生的情況就複雜得多了。
9月5日，我冀熱遼部隊曾克林部經過與蘇軍談判之後，進入了瀋陽市區。這是東北人民自“九一八”以後14年來第一次見到從內地來的中國軍隊，故而受到了東北人民“喜迎王師”的極爲熱情的歡迎。我先遣縱隊趁機組織了臨時人民政府，由焦若愚任市長；成立了瀋陽衛戍司令部，由曾克林擔任司令；又放手擴大部隊，不到10天，就從進瀋陽時的不到一千人發展爲兩萬人。他們又利用蘇軍讓他們看守日軍軍火倉庫的機會，搬出了3萬多支槍來武裝部隊。在這種基礎上，我軍以瀋陽人民政府和瀋陽衛戍區的名義著手恢復秩序，鎮壓漢奸，還向外去接收其他地區。這一下，蘇聯方面不同意了，說大城市只能交給國民黨政府，要我軍立即退出瀋陽。我軍當然不會同意。在這種情況下，駐東北的蘇軍總司令馬林諾夫斯基元帥接受了周保中的建議，決定派人與中共中央直接對話。
1945年9月15日，一架事先未做任何通知的軍用飛機降落在延安飛機場。從上面走下來的是當時的瀋陽衛戍司令曾克林，和蘇軍代表貝魯羅索夫中校，還有一位翻譯。中共中央接待了這位客人，由朱德總司令和蘇軍代表進行了談話。貝魯羅索夫只是轉達了馬林諾夫斯基的四點聲明，其中心就是要我軍退出蘇軍佔領地區，待蘇軍退出東北之後，中國軍人如何進入，由中國人自己解決，蘇聯不干涉中國內政。
15日下午到晚上，在劉少奇的主持下，召開了中央政治局臨時會議。會議首先聽取了曾克林關於東北情況的詳細彙報。根據曾克林的彙報，和貝魯羅索夫所轉達的聲明，會議經過討論之後，做出兩項重要決定：
（一）立即成立由彭真、陳雲、程子華、林楓、伍修權組成的中共中央東北局，由彭真任書記。
（二）從華北和華中派遣100個團的幹部去東北，不用原來的番號和身份，不讓蘇軍發現，完全以東北地方部隊的名義活動。
會議還決定，給馬林諾夫斯基回一封信，表示我黨將從蘇軍佔領區如瀋陽、長春、大連、平泉等地將軍隊撤出，但在熱河、遼寧我黨在抗日戰爭時期所建立的根據地應當允許保留。
以上決定立即用電報告知了正在重慶與蔣介石談判的毛澤東和周恩來。毛澤東和周恩來也立即回電表示同意。
爲了抓緊時間，中共中央東北局負責人彭真、陳雲、伍修權等6人，在9月17日下午，也就是中央做出決定的第二天，就搭乘蘇軍代表返回瀋陽的飛機直飛東北，開始領導東北地區的工作。
有件事情值得一提。由於東北局的領導幹部到東北之後要和蘇軍的領導幹部進行很多接觸和談判，而蘇軍的軍官都是有軍銜的，對軍官都是以軍銜相稱。我軍從來未實行過軍銜制，所有的軍隊領導幹部都沒有軍銜，這在同蘇軍的交往中很不方便。中央領導人深知蘇聯某些領導人瞧不起中國幹部的作風，於是做出了一個出人意料的決定，由中共中央臨時給去東北的幾位領導幹部授了軍銜：彭真、陳雲、葉季壯（按：我黨長期從事經濟貿易工作的領導幹部，到東北之後任東北民主聯軍總後勤部部長，1949年後任國務院對外貿易部部長）三人授予中將軍銜，伍修權授予少將軍銜。他們幾位在剛到東北與蘇軍方面談判時就是以中將與少將的身份出現的。雖然他們的軍銜在與蘇軍的初期談判之後就不再用，但這卻是我軍歷史上的第一次授銜。
由於飛機在山海關機場加油時出了故障，彭真等一行是在第二天到達瀋陽的。這一天，正好是“九一八”事件14週年的紀念日。
四、全速開進
曾克林和貝魯羅索夫到延安本是不速之客，中共中央政治局決定成立東北局並立即前往瀋陽這一決策也是根據突然發生的情況臨時決定的，這個時候，毛澤東還在重慶與蔣介石談判。
中央書記處在延安的三位書記劉少奇、朱德、任弼時在送走了彭真一行之後，當天立即向在重慶的毛澤東和周恩來彙報了有關情況，並正式提出了我黨在全國戰略部署中“向北發展，向南防禦”的方針。毛澤東和周恩來也在當天就電覆延安，表示完全同意有關決定。19日，毛澤東再次給延安發了電報，不僅同意“向北發展，向南防禦”的方針，而且在劉少奇等人提出的新四軍主力北上江北和調10萬部隊到東北的基礎上，對高級幹部的安排作出決定：原新四軍領導人陳毅、饒漱石去山東，主持山東工作；原山東解放區領導人羅榮桓和蕭華去東北，和東北局一道工作；已經長期未上戰場的林彪去熱河，準備去東北。
根據毛澤東的決策，中共中央在9月19日立即發出了《關於目前任務和戰略部署的指示》。指示說：“全國的戰略方針是向北發展，向南防禦。只要我們能控制東北及熱、遼兩省，並有全國各解放區及全國人民配合鬥爭，即能保障中國人民的勝利。”爲此，中央決定：“山東主力及大部分幹部迅速向冀東及東北出動”，“新四軍調八萬兵力到山東和冀東”，“成立冀熱遼中央局，並擴大冀熱遼軍區，以李富春爲書記，林彪爲司令”，“羅榮桓到東北工作”，“陳毅、饒漱石到山東工作”。
很明顯，中央要山東部隊的大部和新四軍的一部急赴東北。
軍令如山，各部隊聞風而動，向東北全速開進。
山東解放區部隊的主力，是在八路軍一一五師的一部分基礎上發展起來的。抗日戰爭初期，中共中央爲了開闢敵後根據地，於1938年9月，任命原一一五師三四三旅政治委員蕭華在冀魯邊區的樂陵組建了東進支隊準備進入山東，由蕭華任司令員兼政委，許世友任副司令員。部隊以一一五師的六八五團爲主，加上一二九師的津浦支隊，還有冀魯邊區的地方部隊，共編爲9個團。東進支隊成立後，就開始向山東開進。
11月，一一五師政委羅榮桓奉命率一一五師師部及六八五團、六八六團等部隊挺進山東，從此，山東的抗日武裝鬥爭進入了一個新階段。在不久之後成立的中共中央山東分局領導下，根據地和武裝力量不斷髮展，1943年9月，成立了統一的山東軍區，羅榮桓任司令員兼政委，同時還任一一五師代師長兼政委（師長一直由未到山東的林彪擔任），蕭華任山東軍區和一一五師的政治部主任。山東軍區之下又設6個軍區、20個軍分區，成爲我黨領導的主要革命根據地之一。
這個時候，我山東軍區的部隊根據中共中央的統一部署，在羅榮桓的指揮下一支一支地出發，開向東北，用當時的話說，簡直就是在“大搬家”。
山東部隊去東北有的走海路，有的走陸路。打先鋒的第一支隊伍，是在9月2日被中央軍委點名出征的由萬毅率領的東北挺進縱隊。
萬毅，遼寧金縣人，滿族。1926年入東北陸軍軍士教導隊，1930年畢業於東北講武堂。1938年，他以東北軍旅長的身份加入中國共產黨。
1942年任東北軍新編一一一師師長。不久他帶領該師的兩個團在山東起義，被編爲八路軍濱海支隊，並擔任濱海軍區副司令員兼濱海支隊支隊長。因爲他是東北人，又是東北軍科班出身，對東北是人熟地熟情況熟，所以中央軍委在考慮去東北的主要幹部時，第一批就點了他，山東軍區去東北的開路先鋒也選了他。他率部隊從海路去了遼東半島，東北挺進縱隊在東北擴軍後改編爲東北民主聯軍七縱，以後又整編爲一縱、東北野戰軍五縱，都由他任司令員。
萬毅打了前鋒，其他各部陸續出發。從9月下旬到12月上旬，總共有蕭華、吳克華、楊國夫、羅華生、樑興初、羅舜初、田鬆等各率所部共6萬多部隊（包括了山東軍區8個主力師中的6個）去了東北。而山東解放區則由新四軍的二師、四師、七師和江南一縱由南向北開進接防。
新四軍到東北的主要部隊，是黃克誠率領的第三師。
這時的黃克誠是新四軍主力之一第三師師長兼政委，他早在中央下達進軍東北的命令之前，就從全局出發看清了東北的重要，曾於9月14日主動向中央提出報告，建議派大部隊去東北“迅速創造總根據地，支援關內戰爭”，是我軍高級將領主動向中央建議進軍東北的第一人。所以當中央決定調動新四軍的部隊時，就點了他的將，讓他率第三師開赴東北。於是他和副師長劉震、副師長兼參謀長洪學智、政治部主任吳法憲等就率領第三師的4個旅、3個特務團共3.5萬人，於9月28日從蘇北淮陰出發，星夜兼程，趕往東北。從獨立建制的部隊來說，新四軍第三師是到東北的最大一支隊伍。
除了山東軍區和新四軍三師之外，從其他根據地抽調去東北的部隊還有：
由劉轉連、晏福生率領的陝甘寧晉綏聯防軍三五九旅第二梯隊（三五九旅第一梯隊已由王震率領南下，第二梯隊已經整編爲一個旅，原來也準備南下，現在改爲進軍東北），由黃永勝率領的教導二旅、一旅各一個團，由文年生率領的警備一旅。
由沙克率領的晉察冀軍區所屬冀中軍區第三十一團。
由鄧克明率領的冀魯豫軍區第二十一團。
這樣，山東軍區的6萬多人加上新四軍的3.5萬人，一共10.7萬人的我軍主力部隊，按中共中央的要求，最晚的在1945年的12月上旬，全部開進東北，分佈在南起安東（今丹東），北至牡丹江的東北大地上。