兰州战役后，马步芳携眷逃往重庆，后逃台湾。

8月25日兰州撤退后，马步芳在西宁暗嘱高文远散布“将军队撤往草地打游击”的谎言，籍以稳定军心和民心，以防发生不测。并指示冶成荣急速收拾贵重财物，忙用飞机急速外运。马步芳本人一面催促家属准备行装，一面亲自决定外逃的家族成员，经过两天两夜的忙乱准备，于8月27日飞经重庆，转飞广州。马步青暂住重庆上清寺原青海省同乡会南院中。不久，马继援亦由重庆来广州。当时聚居于广州河边爱琼酒家十四楼上。先后赶到的有赵佩、马骥、马绍武、马步瀛、马步康、马步銮、马步鳌、马禄、詹世安、马庆、马朝选、马继援、高文远、赵珑、马璋、马子英、马世俊、马耀宗等人。冶成荣在成都处理“德兴海”在四川的财产，事后去香港。

9月下旬，所有到香港的人员和家属，都住在英皇大道100号。英皇大道原名“皇后大道”，是北临海湾、南靠香港山脚下最繁华的一条大街。

在此期间，10月上旬，蒋介石电召马步芳去台湾。马步芳无奈，不得不遵命到了台湾。他把西北战场失败的全部责任完全推到了马鸿逵的身上，而蒋介石却命他重返西北，收拾残部，继续同解放军对抗。西北战局已无法挽回，这实际上是叫马步芳去送死，马步芳不寒而栗，遂萌生去意。

10月国民党政府行政院第五十二次会议以马步芳擅离职守，给予“撤职议处”处分。

马步芳感到此生作恶太多，再在台湾呆下去后患无穷，决定离开。他施展了惯用的“黄金外交”，以2000两黄金贿赂了能在蒋介石面前说得上话的国民党元老吴忠信，由吴向蒋周旋，才获准暂不返回西北。马步芳深知自己的所作所为和恶人先告状的做法难以持久，一旦马鸿逵赴台，一定会同他算账。

1948年12月25日，中国共产党宣布头等战犯名单，被列入该名单的人计43人，其中马步芳名列第40名。

为了办理出国手续，马步芳一行在香港逗留了20多天，有时马德清奔走于广州香港间。最后包了英国航空公司的飞机3架，大人小孩共计200多人，从香港飞往沙特阿拉伯王国首都利雅得，由于种种原因，一日可达的航程，经3天才算到达。

马步芳飞抵利雅得后，沙特阿拉伯国王特地接见他，并赠送小汽车一部，马步芳婉言谢绝。同时私自购卖小汽车4部，和一些亲属前往麦加去朝觐，并到麦地那朝拜穆罕默德陵墓。朝觐毕后，由于当地气候太热，都避暑于塔伊夫省。两个月后马步瀛因中暑去世，马步芳和随行人员又从塔伊夫省迁住于吉达海港，这里气候比较凉爽，又是各国驻阿拉伯领事馆驻地，马步芳住入台湾国民党政府的领事馆内，由领事王稼祥陪同居住。不久，王稼祥和马耀宗二人前往埃及首都开罗，在开罗住宅区马尔地33号买得公寓一院，作为马步芳的私邸，另外买得13层楼房一幢，由所有随从人员家属居住。

马步芳在埃及开罗定居以后，请了一位中、阿文都会的专门教师，每天在家里一面学习阿拉伯文字，一面学习《古兰经》教义，并组织小孩和大人们学习阿拉伯语言和文字。

马到开罗不久，佯称其妻病重，去电要马继援离台速去埃及看望母亲。他不愿自己和儿子再留在蒋氏身边。马继援素以孝子自居，接电即飞开罗，及至，马步芳便再不放行，并从经济上控制他。不久，马呈祥由新疆转道印度赶到开罗，马步芳当时对马振武通电起义一事尚恨声不绝，责其败坏门庭声誉，马步芳向其子侄弟们宣布，他此生再不做事，再不做官，将来死后，也就在此埋掉。

马步芳在开罗定居不久，蒋介石从台湾给他汇来了一万元美金，作为生活津贴，同时多次来函来电或派人去开罗看望，希望马氏及他身边师以上军政人员尽早返台，马步芳均未置可否。后台湾方面又提出在阿拉伯或埃及大使一职中供其挑选，马步芳亦表示拒绝。

马氏集团流亡国外，政治上没有出路，生活上坐吃山空，一切完全是异国风情，精神上十分苦闷。

马步芳大有看破红尘，遁入空门之意，他闭门不出，专心于伊斯兰经典，并让马步康、马步銮、马骥等每日陪他念经。上午一般在自己楼内做祈祷和功课，下午多去他没有公开的秘密妻子法图麦处。在国外，马步芳尽管已失去了往日的权势，但在整个集团和家庭中仍保持着独有的威严。在马尔地他深居简出，很少进开罗市区，偶尔也陪同家人外出暂短旅行，但生活范围十分狭小，仅限于二座楼内。对属员和家人管理也十分严格，不许轻易远离。

随着时间的推移，“反共救国”、“光复大陆”一切都已成为泡影。马步芳自知在台湾无立足之地，后来终于出任阿拉伯大使，并于1975年死于麦加。

据传闻，1975年，一位到麦加朝圣的青海穆斯林老人曾暗访马步芳。弥留的马步芳已说不出话，两人在袖中用西部独有的方式手谈。说到欠下家乡的感情时，老人出示一个羊头、一个马头和一个牛头。马步芳连连摇头。再问时，马步芳老泪纵横，他颤抖着指指天、指指地、又指指自己的心，用生命做思念的情感岂是金钱能够衡量的？马步芳在无限的乡愁中辞世，尸骨留在了数千里之外的沙特阿拉伯。

马步芳阴沉持重，极富心计。在二十多年的政治军事生涯中，无论是操控内部还是周旋中央政府，他处事果决，思虑周密，诸事分寸把握有度，拿捏得当，同时各种手段无所不用其极。内，顺我者昌逆我者亡，踢开叔父兄长，独揽青马军政大权，恩威并重统驭宗亲部属；外，授封疆大吏，以甘、青为根据地，浸染新疆西藏，征伐藏区，追堵红军。他做的每件事都可为自身和其“团体”攫取最大利益。

马步芳是个政客，虽自幼就混迹于行伍，但军事指挥上没什么建树，他只参与战略决策，除了征讨藏区因离得近管管筹划外，其他很少具体介入战役战斗指挥，也很少上前线。这一点和他的父亲马麒不同，马麒喜欢“亲征”。打西路军马步芳请出老将马元海挂帅，解放战争陇东战事中则干脆把军队交给儿子指挥。但他决不是不过问，对前线战事，他通过现代通讯工具时时了解情况并督导。

50年代末，台湾当局想乘国际反共反华、社会主义阵营出现矛盾和青海藏区、甘南地区发生过一些民族纠纷和冲突的机会，妄图策划反攻大陆。马步芳也抓住机会吹嘘，由他指挥的游击队仍在大西北坚持反共斗争。他还诡称，大陆来朝拜的人员当中就有他的游击队代表和联络员，是来接受他的指示，并再三请他回去领导反共大业的。