馬超、韓遂再次派使者送信給曹操，想割河西之地請和，但曹操不同意，馬超於是退兵回到了涼州上邽（guī），郡人任養率自己的部衆迎接馬超。
曹操追兵到安定後，因爲河間有人反叛，於是撤軍回東邊，當時作爲使節的楊阜勸說曹操，“馬超有韓信、英布那樣的勇略，又深得羌人、氐人的擁戴，整個西州都非常敬畏他，如果大軍歸還，不做周密的準備，恐怕隴上諸郡縣，就不再屬於國家的了。”
曹操雖然明白馬超的厲害，但河間戰事迫在眉睫，就先撤兵回許昌，不過還是留下夏侯淵、張郃的名將把守要害(詳見潼關之戰)。
潼關之戰失敗不久，馬超就迅速兼併隴上諸郡縣(隴西、南安、漢陽、永陽等)，張魯也遣大將楊昂相助馬超，共集結萬餘人，圍攻涼州刺史韋康於涼州治所冀城(今甘肅甘谷縣南)。
韋康派閻溫秘密出城，向夏侯淵求救。
閻溫乘夜潛水出城。
第二天，馬超軍發現閻溫的蹤跡，派人追蹤攔截他，馬超軍在顯親界內追上閻溫，將他捉住去見馬超。
馬超解開他的捆綁，對他說，“現在勝敗已經分明，您爲了孤城請救兵卻被人捉到這兒，怎麼施展大義呢？如果聽我的話，告訴城裡，東方不會有救兵前來，這是轉禍爲福的計策，不然，現在就把你殺掉。”
閻溫假裝應允，馬超便用車載着他來到冀城城下。
閻溫朝着城內大聲喊，“大軍不出三天就會來，努力呀！”
城內的人都爲他哭泣，祝禱他萬歲。
馬超惱怒地責問他，“你不要命了嗎？！”
閻溫不回答。
當時馬超久攻不下，所以慢慢引誘閻溫，盼他回心轉意。又對他說，“城裡的朋友，有想跟我同心合力的嗎？”
閻溫又不理睬，馬超便嚴厲地責怪他。
閻溫說，“事君之道只有一死，您卻要讓長者說出不義的話，我難道是苟且偷生的人嗎？”
馬超於是殺了他。
…… ……
曹操抓捕在鄴（yè）城的馬超族人(包括父親馬騰，二弟馬休，馬鐵等)，計三族人，全部斬殺。另一方面，又派夏侯淵爲首的徵西部隊前去冀城救援。
可是，夏侯淵援兵未到，韋康就開城投降了，馬超佔據冀城，默許張魯部將楊昂處死刺史韋康。
夏侯淵領兵前來攻打，行軍到距離冀城二百餘里的時候，馬超率領軍隊來戰鬥，擊敗了夏侯淵援軍。
隨後百頃氐王楊千萬與興國氐王阿貴也起兵響應馬超，率軍屯於興國，夏侯淵於是撤軍回長安，兩年時間不敢西進。
馬超以冀城爲根據地，割據隴上，自稱徵西將軍，領幷州牧，督涼州軍事。
韋康舊部下楊阜、姜敘、姜隱、趙昂、尹奉、姚瓊、孔信、武都人李俊、王靈於建安十八年(213年)結謀反叛，並派遣從弟楊謨到冀城告訴楊阜另一個從弟楊嶽，聯合安定樑寬、南安趙衢、龐恭等蓄謀起兵。
楊阜和姜敘率先在滷城起兵，趙衢（qú）、尹奉勸馬超去攻打，馬超聽到後，率兵前去攻打，樑寬、趙衢偷偷佔據冀城，關閉城門，並殺害馬超妻子和孩子。
馬超大怒，但又攻不進冀城，於是襲擊歷城，殺死楊阜、姜敘在歷城的族人(包括怒罵馬超的姜敘母親)，楊阜於是率領叛軍和馬超對戰，戰場上楊阜與宗祖昆弟七人來圍攻馬超，都被馬超殺死，楊阜自己也身負五處重傷猶然死戰。
夏侯淵援軍趕到後，馬超失去了根據地，進退狼狽，只得投奔漢中依附張魯。
這場戰後，楊阜等多達十一人因討馬超的功勞被封侯。
投靠張魯後的馬超，很受張魯的欣賞，封馬超爲都講祭酒，還打算把女兒嫁給馬超，但是在部下的勸諫下，反悔了。
馬超向張魯借兵，打算反攻涼州。
馬超領兵圍攻祁山三十天，未能攻下，隨後夏侯淵派張郃引援兵趕到，馬超沒有繼續攻打，丟下軍事器械做引誘，撤軍回了漢中。
張魯的部下楊白等因爲害怕馬超的才能，想要加害於他，於是馬超辭兵逃入氐中。
恰逢劉備此時率兵入川，劉備派李恢結好馬超，馬超知道張魯不是幹大事業的人，於是寫信給劉備，請求歸附(詳見冀城之圍)。
建安二十年(215年)，正旦(正月初一)時候，馬超妾董氏的弟弟董種來向馬超恭賀新年，馬超捶胸吐血而說，“家門百口餘人，全部被殺害，如今我們兩個還有什麼好相慶祝的？”
…… ……
到了夏季，馬超派人向劉備了轉達了投靠之意。劉備聽說馬超要來投，高興的說道，“益州可以拿下了！”
於是派人去迎接馬超，且偷偷把自己的一支軍隊給馬超，讓馬超率兵合圍成都。馬超率領兵馬徑直到成都，屯兵於城北，城中所有人都因爲馬超威名而驚恐，不到十天的時間，成都軍民就崩潰了，劉璋隨即開城投降。
劉備平定西川后，遷升馬超爲平西將軍，並命他督臨沮。
…… ……
劉備與曹操爭霸於漢中之地，劉備派馬超與剛剛在巴西大勝張郃的張飛、吳蘭、雷同等將領屯兵於下辯，牽制曹軍先鋒主力。
建安二十三年(218年)，正月，張飛與馬超、吳蘭、雷銅等率軍駐紮沮水，佯攻武都、陰平兩郡。吳蘭、雷銅被曹洪、曹休等人識破擊敗，吳蘭部將任夔（kuí）戰死。
三月，曹操親率大軍來爭奪漢中，劉備據守，馬超與張飛引兵退回漢中。陰平氐王強端逆斬吳蘭，把首級獻給曹軍。
第二年，劉備在衆將的奮勇下奪取漢中全境。秋，以馬超爲首的一百二十餘名蜀漢官員聯名上疏《立漢中王上表漢帝》，勸劉備進位漢中王。劉備稱王后，遷升馬超爲左將軍，假節。
彭羕（yàng）聽說劉備調自己遠出任職，私下心裡很不高興，於是便去會見馬超。馬超向彭羕說，“您的才幹超羣拔萃，主公對您很器重，說您可與諸葛亮、法正等人並駕齊驅，怎麼會讓您外任小郡，使人失望呢？”
彭羕說，“這個老兵痞子，荒唐無理，還有什麼可說！您是外放官，我是內應，天下不會平定不了。”
馬超半生爲梟雄，歸順劉備，寄人籬下後常心懷危懼之感，聽到彭羕說出這種話還是大吃一驚，默不作聲。
彭羕走後，馬超便將彭羕的話如實上報，於是彭羕被逮捕囚禁，之後劉備聽取諸葛亮意見處死彭羕。