九月，平江城中粮尽，军民以枯草老鼠为食。张士诚身陷绝境但仍不投降。徐达下令全军强攻破城！城下战鼓擂动，火炮齐鸣，二十万大军杀声震天，将士人人奋勇争先。徐达督军首先攻破葑门；常遇春攻破阊门水寨，直逼城下。张士诚令枢密唐杰上城督战拒敌。唐杰抵挡不住，投降。参政谢节、潘元绍是在城门扎营，此时看到大势已去，也相继投降。

将及黄昏时分，张士诚军全线崩溃。徐达指挥全军从四面八方架起云梯，蚁附登城，冲入城内，与敌军展开激烈的巷战。

张士诚与其副枢密刘毅收拢残兵，尚有二三万人。他亲自督战，在万寿寺东街与徐达军拼杀，但很快就因力量悬殊，又复失利，刘毅也投降了。张士诚仓皇退入他的王宫，身边只剩下几名亲兵。这时，后宫齐云楼大火冲天，张土诚的妻子刘氏点燃了楼下的柴草，自焚身亡。见此凄惨断肠情状，张士诚长叹几声，转身关起房门……暮色苍茫。平江城中的喊杀声已经微弱。降将李伯升奉徐达之命，前去劝谕张士诚。他匆匆进入宫来，张士诚已悬梁自缢。李伯升让随从赶忙将其解救下来，幸亏气息未绝，许久才缓过气来，但却闭目不语。徐达闻报，命将张士诚押送应天，听候朱元璋处理。最后，张士诚还是在看守之地自缢而亡。

平江既破，城中二十万军民向徐达投诚。徐达与常遇春按事先约定，分平江为两半，各自驻守，安抚民众，并下令全军将士各悬一块小木牌，上书军令：“掠民财者死，拆民居者死，离营二十里者死。”

徐达率诸将从平江凯旋归至应天，朱元璋亲到戟门迎接，颁下敕书表彰诸将，然后按功行赏。徐达进封为信国公，常遇春为鄂国公。

攻灭张士诚后，朱元璋派朱亮祖、汤和等人率军征讨浙东的方国珍，只用了三个月的时间，便削平了这个称雄浙东二十年的割据者。与此同时，朱元璋决定了北伐灭元大计。

年十月，朱元璋任命徐达为征虏大将军，常遇春为副将军，率二十五万大军，北取中原。行前，朱元璋又当面告谕众将：“大军出征是奉上天之命，讨平祸乱。因而命将出征，重在选人得当。治军严明，战胜强敌而攻取城池，具有统率才能的，莫如大将军徐达。勇敢无畏，敢当百万之众，冲锋陷阵，所向披靡，莫如副将军常遇春。我不担心常遇春打不了硬仗，只担心他会轻敌。身为大将而好与小将争胜，这可不是我所希望于诸位的。这次出师北伐，如果大敌当前，以遇春为先锋，与冯胜分为左右两翼，各率精锐冲击向前。薛显、傅友德都是勇冠三军，可各领一支人马，独当一面。大将军徐达专门主持中军，责任是运筹决胜，策励诸将，切不可轻举妄动。”

徐达统率北伐大军从淮安出发，先进入山东。配合北伐主力的偏师，由征戍将军邓愈率领，从襄阳北略南阳，以分散元朝兵力。北伐军所过之处，张布“驱逐胡虏，恢复中华”的讨元檄文，告谕官吏和民众。讨元檄文起了巨大的宣传号召作用，许多州县纷纷投降，北伐军进展顺利。

十一月，徐达指挥大军攻克沂州（今山东临沂），然后遵照朱元璋的指示，命部将韩政扼守黄河天险，张兴祖攻东平、济宁，自己亲率大军攻克益都。十二月，大军兵临济南，元将达多尔济（朵儿只）开城投降。徐达命指挥陈胜镇守济南，自己复还益都，分兵攻取登州（今山东蓬莱）、莱州（今山东掖县）。北伐军从誓师出征起，前后三个月的时间，山东基本被平定。徐达将山东各地的土地甲兵账册图籍等一并上奏朱元璋。