回到莫斯科後，馬林建議中國共產黨應加入國民黨，以期從內部控制它。這一建議與十月革命後派往中國的另一個蘇聯代表的報告內容完全相反，該報告贊成與北方軍閥發展關係。
1922年8月,馬林與孫中山在上海再次舉行會談。馬林建議孫中山吸收共產黨的群眾宣傳和群眾組織等經驗；而蔣介石則總是主張採取軍事行動。看來，孫中山採納了馬林的全部建議。
那麼，中國共產黨的情況如何呢？中國共產黨的創始人都不懂俄語，也沒有人在蘇聯接受過馬克思列寧主義的教育，列寧領導的共產國際在中國共產黨的創建活動中起了重要作用。
事實上，正是馬林和共產國際的另一代表魏金斯基，把各地分散的馬克思主義小組召集到一起，於1921年7月1日舉行了中國共產黨第一次全國代表大會，從而標誌著共產黨的成立。
馬林和魏金斯基都出席了會議。12個中國共產黨代表參加了這次會議，其中有毛澤東。
但是，中國共產主義思想的真正締造者陳獨秀和李大釗未出席，陳獨秀當選為第一位總書記，但不久他就脫離了中共。
後來李大釗被北京軍閥殺害。12個代表中至少有6個脫離了共產黨，正是由於這個原因導致了馬林仕途受阻。
最初，中共弱小併力量單薄，基本為共產國際所控制。
1922年8月，馬林在與孫中山第二次會晤後，正式建議中共黨員應加入國民黨。儘管中共黨內存在強烈的反對意見，但這一建議還是執行了。孫中山表示歡迎共產黨員以個人身份參加國民黨。
&ldo;媒&rdo;已作成，就差舉行婚禮正式結婚了。莫斯科派了一位有經驗的外交官‐‐原駐柏林大使越飛來完成這一使命。
1922年8月，越飛來到中國，在與北京政府建立關係的努力又一次受挫後，他前往上海與孫中山進行會談。
1923年1月26日，雙方發表了《孫越公報》，雙方表示中國目前還不具備實現共產主義或蘇聯模式的社會制度的條件；當前的首要問題是實現國家的統一和獨立。公報再一次宣布蘇聯放棄在中國的任何特權，但仍保留中東鐵路‐‐這條鐵路是俄國人1917年得到的。
孫中山和越飛之間達成一個默契，那就是蘇聯共產黨將按照共產主義路線改組國民黨。1923年10月6日，蘇聯政治局委派能幹的鮑羅廷來進行這項工作。正象這一時期的許多俄國革命者一樣，鮑羅廷用了假身份，他是個猶太人，出生於立陶宛。
1924年1月，國民黨第一次全國代表大會在廣州召開，完成了改組任務，從此，國民黨決定每兩年召開一次全國代表大會，半年開一次執行委員會會議；另外，設立一個小規模的常務委員會，由五至九人組成，這相當於標準的共產黨政治局。
這一系列措施使共產黨獲益匪淺，儘管它的人數仍然很少，但它開始在人數眾多的國民黨內部發揮作用了。
上述這一切，正是蔣在下一個階段的活動的歷史背景。
孫中山已決定聯俄聯共，他計劃派他的部下去蘇聯考察並向他匯報，他選中了蔣介石。
1923年8月5日，蔣在上海與馬林商談了出訪安排。9月2日，蔣由三個助手陪同，抵達莫斯科。他在蘇聯的大部分時間都呆在首都莫斯科。11月29日他們離開了蘇聯，並於12月15日回到上海。
蔣介石一行是前去考察蘇聯革命成功後的黨的體制以及政治和軍事組織狀況。
有關蔣的傳記里說，蔣對他在蘇聯親眼目睹的蘇聯革命非常失望和不滿。在他自己的文章里，他解釋了其原因。在共產國際的執行委員會裡，蔣介石表示了對革