，隋军无法渡河。左屯卫大将军麦铁杖对人说：“大丈夫的性命自有归宿，怎么能燃艾灸鼻梁，用瓜蒂喷鼻，治热病不愈，躺着死在儿女怀里呢？”于是自请为前锋，对其三子说：“吾身受国恩，今天愿意为国而死。吾为国捐躯后，你们就可以享受富贵了。”

炀帝命工部尚书宇文恺造浮桥三道于辽水西岸，桥短，离东岸还差一丈多，隋兵还未渡过桥，高丽兵至，隋兵骁勇者争赴水接战，高丽兵居高击之，隋兵不得登岸，死者甚众。麦铁杖勇猛登岸，但终因人少力寡，与虎贲郎将钱士雄、孟叉等战死于辽水岸边。于是隋军收兵，将桥又带回西岸。炀帝诏赠麦铁杖为铁杖宿公，使其子孟才袭爵，次子仲才、季才并拜正议大夫。

炀帝又命令少府监何稠接长浮桥，两天接成，各军依次相继进发，与高丽军大战于东岸，高丽军大败，战死者以万计。各军乘胜进击包围辽东城。炀帝车驾渡过了辽水，他带着曷萨那可汗和高昌王曲伯雅参观战场以慑服他们。

炀帝命令各军攻城，同时又命令诸将，高丽人若请求投降，立即就宣布安抚接纳，不得纵兵进攻。辽东城将要攻陷时，城中高丽人就声称要投降，将领们奉炀帝旨意，不敢抓住这一时机，先命人飞马奏报炀帝，等到答复回来，城中的防守已调整巩固好了，随即高丽军又坚守城池。崐如此再三，炀帝仍是不醒悟。因而城池久攻不下。六月十一日，炀帝来到辽东城南，观看辽东城的形势，他把将领们召集起来斥责说：“你们自以为官居高位，又依恃着家世显赫，想要暗中怠慢欺骗朕吗？在京师的时候，你们都不愿意让朕来，恐怕朕看见你们的私弊和腐败。今天朕到这里来，正是要观察你们的所作所为，要杀你们这些人！今天你们怕死，不肯尽力，以为朕不能杀你们吗？”诸将都惊惧、战栗而变了脸色。炀帝因此就留在辽东城西几里外的地方，住在六合城。辽东城终于被攻破了。于是，炀帝下诏大赦天下。命令刑部尚书卫文升、尚书右丞刘士龙安抚辽东百姓，免去辽东百姓徭役十年。在这里设置郡县以进行统治。

辽东围城的同时，隋军又兵分两路出击高丽，右翊卫大将军来护儿率江、淮水军，浮海先进，在离平壤城六十里处大破高丽兵。来护儿因胜而骄，带四万精兵直至平壤城下。高丽在城内打好埋伏，出兵与来护儿战而伪败，来护儿追之入城，纵兵俘掠，中埋伏大败，士卒还者不过数千人。高丽兵追至船所，周法尚整阵相待，高丽兵乃退。来护儿带兵还屯海浦，不敢复留应接诸军，六月返回辽东。

陆军方面，于仲文、宇文述等率九军三十万五千人渡鸭绿江，行军中人马皆给百日粮，重不能负。下令军中：“士卒有遗弃米粟者斩！”士卒皆于幕下掘坑埋之，行至中途粮巳将尽。高丽欲疲劳隋军，诱之深入。隋军渡过萨水（清川江），离平壤城三十里，以山为营。高丽遣使诈降。宇文述等考虑到士卒疲惫，不可再战，平壤城险固，难以攻下，遂因其诈而还。七月，隋军至萨水，高丽兵从后面成合围之势击来，隋军疲惫又饥饿，于是大败，溃不成军。及至辽东城，只余二千七百人。