乙支文德见隋军面露饥饿的神情，此时已经知道了隋军断粮了，为了拖垮隋军，他采取了以空间换时间的战法，一战即撤。隋军连连取胜，在众将的一致要求下，宇文述只得率军又渡过了萨水（今朝鲜国清川江），挺进到距离平壤仅三十里的地方，依托山险安营扎寨。乙支文德再次派人前来诈降，并请求宇文述道：“将军如果撤军，我将亲自带上高元去朝见大隋天子。”
　　《北史》和《周书》对高丽都城平壤都有记载，称，平壤在大同江北岸，依山而建，城墙东西长六里。平时的平壤城就像一个大仓库，只在里面储存物资，而高丽国王平时在城外建另建有王宫，只在战时才进入城内固守，因此，平壤其实只是一个城堡或者据点，易守难攻。此时，谁都知道乙支文德又在耍把戏了，宇文述当然对此也心知肚明，但隋军确实已经疲惫不堪，无力再战了，再加上平壤城池险固，根本是有劲使不上，于是，宇文述决定趁着高丽诈降，挽回一点面子，就下令隋军撤退了。

　　来护儿的水军与宇文述的陆军相距仅仅三十里地，为什么没有接上头？显然，在宇文述的陆军进抵距离平壤城三十里的地方，遭到了高丽军队的顽强阻击，已成强弩之末，无力继续前进了，并且与来护儿之间的联系也已被高丽军队切断。
　　宇文述等人率领隋军开始缓慢回撤。隋军组织成方阵行进，而高丽军队很快就从四面八方向隋军发起了攻击，隋军边打边撤。隋军退至白石山（今地不详），被敌人包围了一百多层，敌军从四面向隋军射箭，顿时箭如雨下。右翊卫大将军薛世雄将羸弱之军放到方阵之内，而挑选了二百精锐骑兵向高丽人冲去，打乱了高丽人的阵脚，高丽人向后退却，薛世雄趁机下令全军发起反攻，遂将敌人击破。到七月二十四日，隋军终于退到了萨水东岸。当隋军渡过一半时，高丽军队突然发起了总攻，亲自断后的右屯卫大将军辛世雄战死。隋军顿时军心大乱，陷于崩溃，无法制止，将士们狼狈西逃，一天一夜狂奔四百五十里，跑到了鸭绿江边。唯独卫玄部没有受到损失。来护儿听说陆军撤退，也从平壤附近撤回了。

　　在萨水大败的第二天，隋炀帝就下令各军停止进攻，组织撤退了。史称，宇文述等九支军队渡过鸭绿江时，共计有三十万五千人马，逃回辽东城（今辽宁省辽阳市）下，只有两千七百人，远征军的大量军需物资全部丧失。这是一场惨败，据《唐大诏令集》记载，一直到唐贞观十九年，还能看到当年的战场上“骸骨相望，遍于原野”。隋炀帝大怒，下令将宇文述等人逮捕了起来。
　　高丽军队乘胜前进，隋炀帝撤军途中，命令王仁恭所部殿后，王仁恭部与赶来的高丽军队相遇，一举将其击退，确保了大军安全撤回了国内。隋炀帝晋升王仁恭为左光禄大夫，赏赐绢六千段，马四十匹。
　　这次东征，隋军仅仅攻克了高丽的武历逻（今辽宁省法库县以南），隋朝政府在这里设置了辽东郡和通定镇。八月，恼羞成怒的隋炀帝下诏命令将黎阳、洛口、太原等地粮仓的粮食运往望海顿（可能就是临海顿），为来年的再次东征做准备，他又命令民部尚书樊子盖驻守涿郡。九月十三日，隋炀帝回到了东都洛阳。
　　史书记载的似乎很清楚，第一次征辽东以失败告终，且是惨败而告终的。但由于史料相互矛盾，令后世的我们对此产生了诸多疑问：一是隋炀帝第一次东征的实际人数究竟有多少？二是萨水之战隋军究竟伤亡多少？三是第一次东征是否是一场惨败？朝鲜、日本史料均记载，隋炀帝此次东征率领的军队人数是三十万，而隋炀帝自己的诏书中则号称二百万，《资治通鉴》说是一百一十多万。据《隋书·李浑传》记载，隋军一军人数大致为两万多，因此，大致估算隋军人数可能在六十万上下。宇文述等九军的人数又有多少？《资治通鉴》记载渡过鸭绿江的是三十万五千人，但他又记载于仲文在斥责宇文述时却说“将军率领十万之众，却不能击破小贼，还有什么脸面去见皇帝”的话，似乎可以认定东征军突击部队只有十万人，其余部队则承担着保护交通线、清剿地方等任务。《隋书·炀帝纪》记载：“九军并陷，将帅奔还亡者二千余骑。”《通志》“亡”记作“至”字。“九军并陷将帅奔还亡者二千余骑”这句断句是个问题，有两种断法：一是“九军并陷，将帅奔还，亡者二千余骑”，另一种是“九军并陷，将帅奔还亡（至）者二千余骑”。意思正好相反，前者是说只损失了两千多骑兵，后者是说只回来了两千多骑兵。结合《隋书·宇文述传》记载：“初，渡辽九军三十万五千人，及还至辽东城，唯二千七百人。”应该认定是逃回了两千七百人，但问题是：逃回的两千七百人究竟是九军即三十万五千中逃回了这么多，还是宇文述的第九军逃回了这么多呢？史书把九军总人数与逃回人数放在一起说，自然会让人认为是三十万全军覆没，只回来了这两千余人，但问题是，史料还记载了这九军中卫玄军是毫发未损、薛世雄军虽然伤亡很大，但起码还组织了反击，并不是全军溃散等等，假如三十万才回来两千多，那全军撤回的卫玄军又该如何解释呢？因此，写史人肯定是将宇文述的第九军与九支军队给弄混了，宇文述担任突击任务，一直推进到平壤近郊，因此，他的第九军损失最大，两万余人几乎全军覆没，只有两千多骑兵回来，这是可信的，至于其他各军也都不同程度地有损失，但决不是三十万只剩两千。不过，即便如此，这次东征也属于惨败，《隋书·五行上》记载：“八年，天下旱，百姓流亡。时发四海兵，帝亲征高丽，六军冻馁，死者十八九。”