入朝觐见。于是太子怀恨在心,而顺帝也疑心扩廓。廷臣纷纷指责扩廓受命平定江、淮,却西攻关中,受命罢兵,却不遵从诏令,可谓专横跋扈。貊高的奏章上达朝廷后,顺帝于是剥夺扩廓太傅、中书左丞相之职,命他以河南王的身份住在汝南县城,将其部众分属诸将;而命貊高主管枢密院事务,兼任平章,总领河北军队,赐其军名为“忠义功臣”太子在京城开设抚军院,总领天下兵马,专门防备扩廓。
扩廓受诏之后,退军泽州,其部将关保也归附朝廷。朝廷知道扩廓此时已势孤力单,于是诏令李思齐等往东出关,与貊高合攻扩廓,而命关保率军戍守太原。扩廓十分气愤,引军占据太原,将朝廷所设官吏全部杀死。于是顺帝下诏削去扩廓所有官爵,并命诸军四面征讨。这时明军已经攻下山东,收复大梁。梁王阿鲁温,察罕之父,以河南投降明军,脱因帖木儿战败逃走,其他将领均望风披靡,或降或逃,没有一人敢于抵抗。明军逼近潼关,李思齐等仓惶率军西返,而貊高、关保都被扩廓所擒杀。顺帝大为恐慌,下诏归罪于太子,停设抚军院,完全恢复扩廓的官职,命他与李思齐等分道南征。下诏一月后,明军已逼近大都,顺帝北逃。扩廓入援不及,大都失陷,距离察罕死时仅只六年。
明军已经平定元都,将军汤和等自泽州巡行山西。扩廓遣将抵御,双方战于韩店,明军大败。适逢顺帝自开平命扩廓收复大都,扩廓于是北出雁门,将由保安取道居庸进攻北平。徐达、常遇春乘虚直捣太原,扩廓率军回救。其部将豁鼻马暗中向明军约降。明军趁夜劫营,营中将士惊恐四散。扩廓仓促之间率领十八名骑兵向北逃走,明军于是往西入关。李思齐以临洮而降。张思道逃往宁夏,其弟张良臣以庆阳投降,不久复叛,明军将他击杀。于是元朝大臣均入归明朝,唯独扩廓拥兵塞上,西北边疆深受其苦。
洪武三年(1370),太祖命大将军徐达总领大军出西安,直捣定西。扩廓当时正围攻兰州,于是赶赴定西。与明军战于沈儿峪,扩廓大败,部众尽亡,仅与妻儿数人向北而逃,到达黄河时,获得流木而渡,于是逃奔和林。当时顺帝已死,太子即位,重新将国事委任扩廓。一年之后,太祖再次派大将军徐达、左副将军李文忠、征西将军冯胜率十五万大军,分道出塞攻取扩廓。大将军徐达到达岭北,与扩廓遭遇,徐达军大败,死亡数万人。刘基曾经劝说过太祖“:扩廓不可轻视。”现在太祖想起刘基的话,对晋王说道“:我用兵从未败北。而今诸将自请率军深入,败于和林,我轻信其言,没有周密谋划,致使死亡许多士兵,不可不戒啊。”第二年,扩廓复攻雁门,太祖命诸将严密防备,从此之后明军很少出塞。其后,扩廓跟随其主迁徙金山,死于哈剌那海之衙庭,其妻毛氏也上吊而死,当时是洪武八年(1375)。
当初,察罕攻破山东,江、淮为之震动。太祖派遣使者前去通好。元朝派遣户部尚书张永日、郎中马合谋由海路前往江东,授太祖为荣禄大夫、江西等处行中书省平章政事,赐予龙衣御酒。两人刚到江东,察罕被刺身亡,太祖于是拒绝封赐,杀死马合谋,因张永日有才,太祖便将他留下,并任命官职。当扩廓率军驻扎河南时,太祖又派使者前去通好,扩廓总是扣留使者。太祖一共七次致信,扩廓均不予答复。出塞之后,太祖又派人前去招降,扩廓也不应答。最后,太祖派李思齐前往。李思齐到后,扩廓以礼相待。随即派骑兵送其返回,到达塞下时,骑兵告辞说:“主师有命,请公留下一物作别。”李思齐说道:“我远道而来,无所携带。”骑兵则说“:愿得公一只手臂。”李思齐知道难以避免,于是砍断一臂交给他们。李思齐回来之后,不久便死去了。太祖因此从心里敬重扩廓。一天,太祖大会诸将,问道:“谁是天下奇男子?”诸将均答道:“常遇春率军不过万人,却能横行无敌,真是奇男子啊。”太祖笑道:“遇春虽为人杰,我得而为臣。我却不能将王保保收为臣子,此人才是奇男子。”太祖后来册封其妹为秦王妃。