粵軍收復廣州後，蔣介石指揮第二軍追剿粵北一帶的殘敵，有些將領怕蔣介石會反客爲主，越俎代庖，就故意製造摩擦和刁難，不與配合。
陳炯明的縱容部下和對孫中山的潛心背離，也早引起蔣介石的注意和警惕，因此，他始終都把自己與陳炯明之間的關係保持一定距離，不敢走得太近，他已意識到兩人將來總會有一天會分道揚鑣的。在其他將領有妒忌行爲的時候，蔣介石向陳炯明反映了這種情況，陳炯明的回答確實令蔣有點失望，蔣遂以與時任粵軍第二副軍長張國禎不和爲由向許崇智提出辭職。
臨走時，蔣不忘留書陳炯明，大意爲，一般情況下，上邊不信任，下邊不服從之際，同事共議者互相猜疑妒忌，互相傾軋，是最容易短士兵之氣，最拒斥人們盡忠的。他的這次奔命赴粵，實際上是因爲執信同志的死，激起大家的同仇敵愾之志，並且因爲廣東局勢飄蕩不定，所以他才捨己從人，維持黨之責任，“自以爲竭愚盡忠，一秉至公，無絲毫自私自利之心。”
蔣還晉見孫中山，將此事原原本本地彙報一通，以示公正，隨後言談之中也有提醒孫中山多加防範之意。但孫不以爲然，蔣尷尬之下，返回溪口老家，猶如閒雲野鶴，世外仙人一般，對世事不管不問。然而，蔣介石此刻的內心是不平靜的。
11月25日，戴季陶來奉化，極力規勸蔣介石火速返粵，蔣介石不答應。戴曉以大義，明以厲害，兩人開始爭論起來，情緒激動後，由爭論轉變成了爭吵，弄得面紅耳赤，最後戴季陶拂袖而去。
事後，蔣介石回想起來，戴季陶也是一番好意，自覺過意不去，給戴季陶書信一封，檢討自己“爲人不自愛惜，暴氣傲慢”，大有後悔莫及之感。戴季陶也回書一封，和盤托出自己千里迢迢去溪口的良苦用心，信中對國民黨內各種勢力都做了比較和權衡，認爲蔣介石是極有可能成爲黨內最有前途的後發之才的。但是蔣介石如果一直遠離戰場，對孫中山的話置若罔聞，頑固任性，動輒使氣辭職，久而久之，會影響自己在軍隊中的名聲和形象，關鍵的是將會喪失孫中山對他的信任，那樣蔣介石前途暗淡，後悔已晚矣。
蔣介石接到此信，頓然醒悟，再回信一封，深表歉意，並說到：戴季陶增其知識，長其學問，不客氣、不敷衍，規勸督責，不稍假借。時時能導其於正，強其爲善。所以自己甚爲感激，佩服至極。
1921年內，孫中山先後給蔣介石發了9封電報，命他迅速歸任復職，助其一臂之力。接到這些電報後，蔣由於各種原因來來去去，不一而定。
這一年裡，除了孫中山的9封電報外，戴季陶、陳炯明、胡漢民、汪精衛、張靜江、許崇智等也都先後多次來電，督蔣返粵助事。一年下來，蔣所收函電至少有30餘封。由此可見，蔣介石在革命陣營的位置已是舉足輕重的了。這對蔣介石個人前程來講，不能不算是一件極大的好事。
當然在諸多來函來電者中，也存在着派別之爭，孫、戴、胡、汪、張等基本爲一派別，陳炯明爲另外一個派別，他們都渴望將蔣介石拉攏到自己門下，因爲在長期的接觸過程中，他們似乎都明白了蔣介石的軍事才能。“寧肯失百將，也要得一人。”
3．赴難永豐艦
1921年12月10日，蔣介石、陳潔如、廖仲愷3人到達梧州，在大元帥府見到孫中山，商量要事。事實上，他們到達之時，孫中山正在草擬一份給陳炯明的電報，請其前來梧州出席緊急會議，並查詢供應物資及軍火何時可以運來。
第二天，陳炯明回電說：“由於數項重要會議，無法分身，可能時當即前來。”
這通電報並沒有使孫孫中山感到一種意外和危機，反而使他增強了信心，他滿懷期待，相信陳炯明會那樣做的。
幾天後，孫中山又拍電報給陳炯明，但無答覆，不過，孫中山仍未失去希望。
在離開梧州去桂林的途中，孫中山每天都要請蔣介石到他船上商談幾個小時，每每談到陳炯明已答應的補給問題，蔣介石就覺得十分煩惱，尤其是孫中山還一邊不斷地稱讚陳炯明。
到桂林後不久，蔣介石回到上海，並與胡漢民通信，胡將所有新近的發展情形告訴他們。陳炯明果然食言，不肯給孫中山補給品及經費。
鄧鏗爲了不使孫中山失望，他跟幾個朋友，包括伍朝樞，進行接洽，並且去香港和一家名爲辛浦森洋行的進口商籤立一項合同，訂購一大批武器軍火，備供孫中山之用。但是，當鄧鏗拍電報給廣州海關，請求准許這批貨進口之時，行動計劃遭泄。
陳炯明將這事認作危害他生命的陰謀，爲報復之計，就命令手下秘密查出鄧鏗返回廣州的日期，並在火車站的入口處，於1922年3月21日，將鄧鏗刺殺。同時，辭去粵軍總司令職以相要挾。
孫中山此番回程，由於是順流而行，所以由桂林至梧州，只花了4天半時間，然後由梧州到廣州，只需1天。
當他們抵達廣州時，才知道陳炯明已離開廣州，前往他的惠州本籍根據地，只是派人送來辭職函。
孫中山固知這是陳的一種自保顏面的做法，但內心既不滿於陳炯明吝撥補給、軍火及款項的欺騙行徑，於是接受辭呈，未加慰留，然後又指派伍廷芳繼任廣東省省長。
蔣介石自上海致函陳炯明，與其絕交，並勸其效忠孫中山。
令蔣介石感覺失望的是，陳炯明的勢力此時反而較前更強大了。他被任命爲督辦兩廣軍務，仍保持其陸軍部長的職位。雖然他已辭卸粵軍總司令之職，但其參謀長葉舉仍掌控着粵軍指揮權。
由於孫中山在廣州無大軍駐防，陳炯明便以葉舉及所屬其他軍官名義，呈請孫中山免議陳前此辭職之事，而公開宣佈恢復陳的粵軍總司令及廣東省長原職，此議對孫中山而言，實無甚差別，因他除北伐而外，已無心他顧，但卻使蔣介石惱火萬分。
1922年6月1日，孫中山又拍發一電給蔣介石，促其搭乘最早航輪，返回廣州，協助北伐工作。但是，蔣介石卻仍舊堅持以驅逐陳炯明及其部隊爲妥協的先決條件。
蔣介石爲了保護孫中山，使其免受陳炯明的傷害，多次提醒孫中山留心陳炯明的奸詐本性，力勸請孫中山以大總統身份發佈命令，削減陳氏正在擴張中的勢力，甚至撤銷其職務，以防其叛亂。一方面是出於對孫中山地位的維護，但另一方面也是蔣介石與陳炯明兩人之間的較量。
6月2日，孫中山急電蔣介石：“粵局危急，軍事無人負責，無論如何請兄即來助我，千鈞一髮，有船即來。”真是千鈞一髮之際。6月16日凌晨，陳炯明軍隊在葉舉指揮下，發動兵變，洪兆麟、楊坤如等率四千多人進攻廣州城北觀音山麓的非常大總統府，孫中山在秘書林直勉等人的掩護下，冒着槍林彈雨，突出重圍，登上停泊在珠江上的寶璧艦，次日轉登永豐艦。
孫中山在逃亡過程中，一邊率7艘軍艦組成的艦隊炮擊叛軍，一邊給蔣介石加急電報：事緊急，盼速來。
孫中山雖然從虎口逃出，只是留得身家性命，並沒有從包圍圈中解脫出去，四面楚歌，危在旦夕。雖然此時的孫中山手中有7艘軍艦可以調用，那隻能保證孫中山有藏身之處，形勢依然危急萬分。
這時，孫中山鑑於形勢所需，不得不改變整個北伐方案，電令李烈鈞迅速歸師回粵，討平叛跡。但是李遠在天邊，一時無法解燃眉之急。孫中山不得不在永豐艦上與叛軍作鬥爭，只等援軍到達。
孫中山盼來的是蔣介石。蔣介石接到孫中山18日加急電報後，才知事情的嚴重性，遂於25日離滬赴粵，一路上披星戴月、快馬加鞭。29日，抵黃埔，然後又馬不停蹄直赴黃埔永豐艦晉見孫中山。孫中山見蔣介石危難之中不遠千里，不畏炮火，勇撲虎穴，助其脫險，感動無比。直到此時，孫才明白“患難見真情”的滋味。對於自己對蔣的誤解，他表示無比的慚愧。
從那時起，蔣介石在孫中山的心目中的地位重要起來，孫中山是將他視作“救星”的，只聽孫中山說了一句：“蔣君一人來此是當兩萬援軍。”其言語之分量，可想而知，隨即委蔣以海上指揮全權。蔣介石表示在患難之中，隨侍左右，安危共仗，生死相伴，孫中山更是感動得涕淚縱橫。
蔣介石赴難登上永豐艦，使陳炯明感到格外驚訝，“面色發青”，說到“他在先生身邊，必定出許多鬼主意”。看起來，陳炯明對蔣介石是頗有幾分餘悸的。
蔣介石確實並非浪得虛名，自他統兵應險以來，情勢發生了逆轉。針對陳炯明分化瓦解海軍艦艇並以炮火威脅永豐艦的詭計，蔣協助孫中山率艦隊移泊黃埔附近的新道河面，並決定率艦進駐白鵝潭。
7月10日，永豐、楚豫、豫章等艦攻擊東歪炮臺，衝過敵軍炮火封鎖，如期到達白鵝潭。蔣介石一路上陪同孫中山站立在舵樓中，當永豐艦遭受炮擊受損後，蔣介石勸孫中山返回艙內，自己指揮戰艦繼續前進。陳軍企圖用施放水雷的辦法謀殺孫中山，也未能得逞。
北伐軍受到陳軍和直係軍閥的前後夾擊，遭受重大損失，此路援軍不得進展。兩個月的反擊叛軍鬥爭由於孤立無援，指揮欠妥，難以有所突破。
韶關未復，贛南復失，南雄不保，一師降敵，前方軍隊已失重心，戰局無法挽救，孫中山留粵維持人心和軍心，亦未有效，再待下去，凶多吉少，因而蔣介石規勸孫中山即離廣州，暫作躲避，調養休整後再作打算。
9日，蔣介石隨孫中山由白鵝潭乘英艦去港，10日，換乘俄船返滬。
蔣介石陪同孫中山從廣東回到上海，在孫寓協助工作一週後，到寧波遊覽普陀山、天福庵南天門等處名勝。
永豐艦赴難後，孫中山完全信任了蔣介石，不遺餘力地滿足蔣介石的政治需求。永豐艦事件後，孫中山雖脫險離粵，但是廣東局勢仍然是陳炯明佔有主動，操持着軍政大權，叛軍尚未消除，討伐需要繼續進行。但陳炯明背離孫中山實屬叛逆行徑，畢竟名不正言不順，所以粵軍大爲分化。
擁護孫中山的北伐軍，由許崇智率領，繼續東進，於10月12日攻克福州，孫中山即於17日將北伐軍改組爲東路討賊軍，以許崇智爲總司令，蔣介石任司令部參謀長，隨軍出征。東路軍計劃取道閩南，直搗陳的老巢。由滇、桂、粵聯合與西路討賊軍先行東下討賊，12月份東路軍平定福建，指向廣州。西路軍控制梧州，也向廣州進軍。
在此次北伐出師前，蔣介石壯志滿懷，決心痛擊賊軍，爲民除害，伸張正義。但是說歸說，做歸做，說做本是兩碼兒事，當蔣在東路討賊軍上一段時日後，對軍隊內部的勾心鬥角，派系爭鬥，開始厭惡起來，並且越來越難以忍受，去意又起。
孫中山獲悉後一陣驚愕，急忙回電，囑託蔣介石無論如何困難必須完成任務，方可釋肩，萬勿輕去，以致債事，如果有阻力可隨時與他聯繫。另外，廖仲愷也即刻助蔣解決，然而這種空頭許諾並不能給蔣介石減輕多少心理障礙，蔣遂登船往滬。
到上海之後，見到孫中山，他也知道事情做得有點不太合體，就主動承認錯誤，爲表歉意保證說：“任何工作都不敢違命，惟望準我不再回閩。”孫中山也順水推舟，不加厲詞，只是語重心長地奉勸幾句，要“堅忍耐煩，勞怨不避”等諸如此類的話語。
1923年1月16日，陳炯明在東西兩路討賊軍的聯合攻擊下，被迫放棄廣州，逃往惠州。孫中山回廣州續行大元帥職，正式成立大本營，隨即任命蔣介石爲大本營參謀長，蔣因治眼病不能前往廣州，乃辭未就任。時值沈鴻英叛亂，孫致電於蔣：“已發表參謀長，軍事樞機不可一日無人。”蔣奉孫急電，返抵廣州。
此後幾個月內，蔣介石始終伴隨孫中山左右，參佐軍務，要麼與孫中山同室謀劃，要麼陪同孫中山趕赴前線，慰問將士，抑或是替代孫中山，與衆將領共謀起兵大計，無論是在軍事前線和戰略後方，都能夠看到蔣介石的身影。
在輔佐孫中山統領全軍過程中，蔣介石出了不少行之有效的“好點子”。譬如：5月20日，討賊軍對陳炯明根據地——惠州發動攻擊，但陳部出奇兵，迂迴作戰，將討賊軍包圍起來，形勢極爲不妙，蔣介石獻計，請孫中山親督前線督戰，以挽戰局。並隨同孫出發，形影不離，因此在攻克惠州之前的6月16日，孫特任蔣介石爲大元帥行營參謀長。