二、南京供職
1926年上半年，直、奉、魯軍閥聯合攻擊國民軍，馬福祥準備南下依附蔣介石，適值張作霖部將李景林與郭鬆齡密結反張作霖，郭被張聯合日軍擊敗處決，李欲南逃投蔣，馬李二人同時乘船南下，被奉軍發覺，派兵尾追，李逃脫，卻把馬福祥捉住，向張作霖請示處分。張因二次直奉戰中馬福祥忘恩負義，追念前嫌，命人將馬軟禁。馬請前陝督陳樹藩向張斡旋，賄以槍支、鉅款，纔得到釋放。馬到南京見蔣，陳述統一安定西北計劃。蔣介石以其子侄握有兵權，馬本人熟悉西北政情，正是可以拉攏利用之人，即委以軍事委員會委員。1928年春，國民黨二中全會選馬福祥爲中央候補執行委員，又被任爲國民政府委員，儼然成爲南京新貴，他還被委以許多頭銜：北平政治分會委員、開封政治分會委員、水利委員會委員、賑務委員會委員、編遣委員會委員、故宮博物院理事、蒙藏委員會委員長等。他又以“和事佬”的面目，爲蔣介石效力。這年夏天，馬仲英、馬廷勷、馬廷賢等在河州起事，反對馮玉祥國民軍，雙方展開激戰。馬福祥自南京函電諸馬及各方名流，力勸息兵。馬仲英等以馬福祥和稀泥，爲國民軍張目，憤而縱火燒燬馬福祥在河州的住宅。這時蔣介石、馮玉祥、閻錫山之間由於爭地盤、爭軍隊編制，相互鉤心鬥角，衝突日趨尖銳。馬福祥奔走於三方之間，折衝樽俎，縱橫捭闔，一時與國民黨右派人物張繼、李石曾齊名。其實他此時處境不得不討好三方，但傾向性亦甚明顯：其勢力範圍與閻錫山勢力範圍相界，不能不結好於鄰；其子侄皆在馮玉祥部下，不敢開罪於馮；他本人則依附於把持中央的蔣介石，故不僅效忠於蔣，且多進諛詞，公然聲稱：“當今之世，統一中國，舍介公其誰？”在幾大夾縫中生存，是很不容易的。
1928年秋，新軍閥宣告“北伐完成”。次年元月蔣介石召開編遣會議，馬福祥參加了這個會議。會上，蔣與閻錫山聯合，通過編遣，削弱馮軍力量，致使會後馮、蔣矛盾日益公開化。5月，蔣、馮雙方在中原地區擺開陣勢，即將開火。而韓復榘、石友三、馬鴻逵等突然倒馮投蔣，5月22日在洛陽發出通電，聲明維持和平，擁護中央。蔣驚喜若狂，立即給三人覆電嘉獎，任馬鴻逵爲第十五路總指揮，並送300萬元。未幾，唐生智、韓復榘、石友三、馬鴻逵四人會晤于徐州，謀倒戈反蔣，事後馬鴻逵卻向蔣告密。接着，馬福祥又奔走於韓、石之間，爲蔣說項，韓、石復投蔣。父子如此忠於蔣，使蔣大爲賞識。同年11月即任馬福祥爲青島市市長，任馬鴻賓爲寧夏省政府主席。
這時的青島，正處於工潮時期。原來日本人在青島開辦了不少紗廠，其中富士、大康、隆興等6家紗廠工人因不堪忍受資本家的殘酷剝削，在地下黨秘密領導下，組織工會，以維護自己生存的權利。日方廠主以開除6廠工會骨幹250名工人的威脅手段，強令解散工會。6廠工會遂推舉代表向日方交涉，日方廠主在其總領事藤田榮介支持下，不僅粗暴拒絕工人的合理要求，而且聯合日人9個廠的廠主一致決定閉廠停業，且以武力相威脅。於是9廠2萬餘工人開始罷工。國民黨市政府懾於日帝淫威，立即出動軍警搜捕地下黨組織和強令解散工會，仍無法撲滅罷工的熊熊烈火。南京政府無奈，即以馬福祥取代前市長吳思豫。馬於11月11日到任，他秉承南京政府“以邦交爲重”的媚外政策，一面“飭令市公安局督率警隊，盡力彈壓”，一面親自出馬與藤田榮介談判，最後達成妥協，即對250名罷工骨幹“由市政府勸告自動辭職”，來換取日方廠主答應復工開業的許諾，致使此次罷工歸於失敗。馬福祥在復工後對工人演說中有這樣的話：“此後一切軌外行動斷斷不可做了，做了就犯法，法律是神聖的，沒有情面的。……如果聽信壞人挑撥的話，真是自暴自棄，要走到沒有辦法的道路上去，使你們的生活又陷於困難境地了。”此後，馬還手編《青島工潮紀略》3萬餘言，以紀其事。
1930年3月，奉系沈鴻烈任青島市長，馬福祥調任安徽省主席。4月，閻、馮與蔣介石中原大戰爆發，曾是馮玉祥舊部的韓復榘以爲河南首當其衝，不願和不敢與馮玉祥作戰，向蔣請求赴津浦線與閻錫山作戰，蔣也顧慮韓有重投舊主的危險，便任韓復榘爲山東省主席，將原山東省主席陳調元調任安徽省主席，改任馬福祥爲蒙藏委員會委員長。
三、民族工作
馬福祥在官場中，是處事比較平和的人，他一生調解了不少糾紛。除前述者外，尚有數事值得一提。在清末西寧總兵任內，他調停過喇嘛和塔爾寺阿嘉呼圖克圖之間的衝突。原來十三世喇嘛由於英帝國主義入侵西藏，倉皇北奔，避居庫倫（今外蒙古人民共和國烏蘭巴托），後於光緒三十二年（1906年）九月移住青海西寧塔爾寺。雖在旅途中，仍然供應甚盛，其屬下堪布氣勢洶洶。漢官迎送、羅拜，傲不爲禮。及至塔爾寺後，盛氣凌人，以客壓主，且由外蒙、西藏、西康及青海各地僧俗前來膜拜並送金銀珍寶等貴重禮物者絡繹不絕，使塔爾寺的商業市場貿易也繁榮起來。屬下的噶倫、堪布等對塔爾寺更起覬覦之心。這就使塔爾寺主阿嘉呼圖克圖難以容忍，矛盾日趨激化。適逢阿嘉呼圖克圖忽得暴病而死，謠傳系屬下堪布請來紅教本布暗用魔術放咒致死。因此，塔爾寺僧衆即拿起武器要和衛兵械鬥。馬福祥和青海辦事大臣慶恕聞報，立即帶軍隊到寺彈壓保護。這時塔爾寺僧衆兩千多人齊集大經堂南面社火院內，持槍怒目環坐。馬福祥出面對僧衆耐心勸導，由翻譯傳達，經過3個多小時，終於將塔爾寺僧衆說服，一場械鬥始告平息，此後兩方相安無事。直到宣統元年（1909）四月才離開塔爾寺返藏。（參閱牙含章《喇嘛傳》）民國元年（1912年）馬福祥還調解了甘督趙惟熙與布政使彭英甲之間的糾紛。這年4月30日晚，趙、彭因爭權啓釁，各調武裝進城，將以兵戎相見。馬福祥聞知，隻身星夜進城，對趙、彭進行勸解、詰責，其中有這樣的話流傳開來：“軍隊乃保護甘肅治安者，非從都督輩縱酒任氣之物也。”這當然是義正詞嚴。當時馬福祥所率一標人馬正“留戍蘭州”，較趙、彭擁有更大的武力，趙、彭不敢不聽，只好偃旗息鼓。這些調停工作，對各族人民都是有利的。
馬福祥在他一年半的蒙藏委會委員長任內，更做了一些有益於民族團結的事。他在南京召集蒙藏各部王公會議，提出消除民族間的隔閡，發展民族教育，開發蒙藏地區，加強西北國防建設的主張。1932年2月以心臟病復發，辭去蒙藏委員會委員長職務，在天津休養。同年5月，馬鴻逵因“剿共”不力，被蔣介石示意劉峙以重兵包圍於河南信陽，馬福祥聞訊，親赴漢口見蔣說情，卻身染時疾，舊病復發，臥牀不起。馬鴻逵急赴漢口探視，旋遵醫囑轉北平協和醫院，途中病況轉劇，8月19日下午火車至琉璃河車站，馬痰喘交加，不治逝世。“於是所部將校士兵，蒙回族衆，聞訃鹹奔走巷哭。政府震悼，特贈五千元，遣員致祭。遂於八月二十日葬於北京阜成門外三里河之阡。”（唐文治：《馬公雲亭墓地碑銘》，載1938年1月《回教月刊》第一卷第八期）
馬福祥對民族問題，有自己的見解。有些觀點，不無參考價值。他有一篇演講詞，茲摘引如下：
他對西北有自己的解釋：“蓋西北二字乃分立之名詞，而非聯貫之義，即中國西部與中國北部之謂也。明乎此，則吾人當知其範圍決非如世人之所謂西北者之狹隘，而實爲蒙藏二大區域之代名詞矣。”
他從國防的觀點着眼，從歷代的考察中，認爲：“吾國防之經營，恆爲西北與東南二方面之遞嬗，未有能同時並顧者。……蓋因吾國地形，西北皆爲大陸，歷代以來，鹹有鄰國強族爲我外患，故戒備不可不嚴；而東南則瀕臨大海，不與他國土壤相接，故史書上記載，實不足與西北並稱。”“自鴉片戰爭後、五口開埠……全國目光亦俱亟亟以東南海防爲憂，西北延長極萬里之國防幾於無人過問矣。然則西北之國防果無顧慮之必要乎？”
他自己回答是：一、“顧自外蒙脫我羈絆。宣佈獨立以來，蘇俄之勢力已深入蒙古之堂里奧……”二、“蓋自英滅印度而後其目光常注射於我之西南，而欲置西藏於印度第二之地位，我若不早爲之圖，則西藏失而西康隨之，西康失而川滇繼之矣。”所以：“首宜充實內蒙各部之人口，開發內蒙各地之地利，建設內蒙各地之交通，啓發內蒙各部之教育。簡練內蒙之軍隊，以固吾北方之藩國。”至於西藏的關鍵，“厥爲高原鐵路系統之建築”。“蓋吾國內地與西藏之交通至爲遠阻，無論取道青海草地或四川、雲南，均非跋涉不能到拉薩，而反觀印度或緬甸方面與西藏之交通，則道路開闢，往來甚便，故今日吾人慾由內地赴藏，幾無不假道印度，猶之慾至新疆者幾無不假道西伯利亞，其爲恥辱固無論矣，而交通之操於人手，設一旦英人與我齟齬，或竟不幸而至於開戰，則彼之師旅可以長驅直進，不十數日而直抵拉薩。我則跋涉長途，日數十里，勞逸之勢，勝負之分，固不待智者而始決也。”這道理講得十分透徹，在當時不失爲一種遠見。他對西北邊疆問題是十分熱心的，曾編撰7萬言的《蒙藏狀況》一書，爲國人提供了認識蒙藏的資料。根據他的這些言行，我們不能不說：馬福祥是一位愛國者。