同，分进合击的方针，乘夜突袭。
宇文素率黄龙战船数千艘，利用暗夜，令将士衔枚开进，实施正面突破；令开府仪同三司王长袭率步兵由长江南岸攻击戚昕别栅；令大将军刘仁恩率甲骑自江陵西进，沿长江北岸进击陈军白沙要点。隋军水陆配合，于次日拂晓，一举击败戚听所部。戚听逃走，部属全部被俘。宇文素对俘虏不杀不辱，慰劳后全部释放。秋毫不犯，陈人大悦。此战，宇文素恰当选择进攻时机，以水军突袭与两岸步、骑兵协同攻击，速战速决，取得首战胜利，为灭陈战争发展创造了有利条件。而实行优待俘虏的政策，也有利于争取更多的陈军将士。
这边林南则率大军继续顺江东下，林南立于五牙楼船之上，容貌雄伟，陈人望之惧曰：“吴王乃龙王也！”陈荆州刺史陈慧纪派南康内史吕忠肃率军屯守歧亭，在两岸岩石上凿孔，系三条铁索横截江面。阻遏隋军战船。为固守峡口，吕忠肃将自己私产全部捐出充军，所以陈军斗志颇高，防御也很严密。
大业十七年正月二十四，林南分兵一部与宇文素军相配合，猛攻陈军岸上栅障营垒，吕忠肃率军据险抵抗，激战40余次，隋军伤亡惨重，死伤2万余人。陈军尽割死者之鼻以邀功求赏。激起隋军愤怒，林南身下士卒，拚死力战，多次获胜。所俘陈军将士，林南则全部释放，以安其心。在隋军猛烈攻击下，吕忠肃被迫放弃营栅，连夜逃走。林南令士卒毁掉栏江铁索，继续沿江而下。
吕忠肃退据荆门之延洲。依恃荆门山险要地形，再次阻遏隋军。林南派善于驾舟的巴延士卒一千余人。乘“五牙”战舰两艘，用舰上拍竿击碎陈战船十余艘，俘两千余人，再次大破吕忠肃军，吕忠肃只身逃走。驻守江南岸安蜀城的陈信州刺史顾觉，也弃城逃走。屯守公安的陈慧纪见形势不利，烧掉储蓄，率军3万、战船千余艘，顺流东撤。企图入援建康，却被施文庆率军阻于汉口以西。
陈湘州刺史，岳阳王陈叔慎引人马五千投降林南，林南善待之，并且所入之城，皆秋毫无犯，陈民人人都念林南之好。陈军也多思反叛。此战，林南、宇文素以水军、步兵相配合，先击破陈军江岸据点，再以水军战船接舷战。大破敌军。隋大型楼船“五牙”及重型拍竿装备在作战中显示了威力。优俘政策对瓦解陈军、配合军事进攻，具有积极作用。至此，长江上游为隋军所控制，阻止了上游陈军的东援，保障了下游主力的渡江作战。
大业十七年二月，林南二十万大军直逼建康，此时陈主才知道事情紧急，急调萧摩诃、鲁广达两人引兵五万前至钟山抵挡隋军。然而此时的隋军已是锐不可当，而陈兵却皆无战心，两下刚一交战，陈军就倒戈相向，尽管萧摩诃、鲁广达两人率军死战，无奈寡不敌众，尽皆死在乱军之中，五万陈军也有四万投降。
林南不给陈主一点喘息的机会，大军直捣陈都建康，陈主慌忙令沈客卿领兵两万出城迎敌，那沈客卿本就是个无用书生，出城一看见隋军兵马雄壮，旌旗迎风，登时吓的连腿都软了，林南不禁冷笑道：“陈叔宝派你这么个废物来送死么？”
沈客卿一听送死两字，忙跳下马来拜倒在地，空中急呼：“我愿降，愿降，吴王殿下且莫害我性命。”两万陈兵一看主将都已是这般模样，干脆都把兵器一扔，如潮水般扑通扑通的全都跪下请降。林南心内痒痒，吩咐高德弘道：“带三千人马随我进城，其余诸将但敢擅自入城者，定斩不饶！”他故意不带别人，是怕谁错手将陈宫的美人杀了。
陈叔宝还呆呆坐在殿上，等沈客卿来报捷，这边一个太监慌忙跑了进来，口种尖声呼道：“陛下不好了，隋军已进城来了，现已将皇宫内外团团围住。”“啊？”陈叔宝吓的忙跳下御座，这边董宪一把扯住他道：“陛下乃天子，身有王气，谁敢加害！”这时的陈叔宝