这时，江淮流域的反元斗争形势发生了显著的变化。吴王朱元璋在铲除了以湖北武昌为中心、素以兵强将广著称、主要活动于长江中游一带的陈友谅所部后，影响与实力都为之大增，其占领区域西起荆湘，与四川明玉珍毗邻；东至江浙，与张士诚、方国珍接壤；北抵秦淮，界入豫鲁；南临闽、广，与陈友定等部相望，已经发展成为元朝统治区域内实力较为雄厚的一支反元武装力量。与此同时，以浙江庆元为据点、割据浙东数郡的方国珍部，在争战中情势日蹩，实力有减无增；以重庆为据点、盘踞四川盆地的明玉珍部，偏安一隅，无进取之心，均不足以与吴王朱元璋相抗衡。唯有以江苏苏州为据点、一向凭借雄厚财力称霸江浙一带的张士诚部，虽然在与吴王朱元璋部的争战中屡遭惨败，丧城失地，但是其占领区仍然南至绍兴，与方国珍接境；中有通州、泰安、高邮、淮安、徐州、宿州、濠州、泗州；北至济宁，地入山东，实力依旧不容低估。在当时各派反元武装力量中，张士诚部已取代陈友谅部，成为了吴王朱元璋部最强有力的竞争对手。
张士诚，江苏泰州（今江苏泰县）人，出身盐贩。元至正十三年（1353年），他联合一些私盐贩子，发动游民、盐丁和贫苦农民，举行反元起义，并攻占了泰州、高邮等地。元至正十四年（1354年）他自立为王，建国号大周，以高邮为都城。元至正十六年（1356年）二月，他先后攻占了平江（今苏州）、常州、松州、湖州（今吴兴）等地，并迁都平江。张士诚为人宽厚，也能礼贤下士。比如他迁都后，在平江设弘文馆，招募了一批文人儒士为他谋划；但此人生性持重，狡而懦，气度小，无主见，缺乏深谋远略，数次贻误战机，失掉了发展自己、消灭敌对势力的机会。又如至正二十年（1360年），陈友谅率舟师攻应天，约张士诚一起夹击朱元璋。这本是张士诚消除敌对势力，打击朱元璋的好机会，他却死守家园，按兵不动。朱元璋在鄱阳湖与陈友谅杀得天昏地暗，朱元璋担心张士诚会乘虚奔袭应天，特派徐达回守应天；可张士诚根本就没想过打应天。张士诚最大的弱点是无治人之能，缺少驾驭将帅的手段。他手下大将多是当年贩卖私盐的江湖弟兄，打了大败仗或办了错事，他从不忍心惩罚，甚至将帅出征作战竟带着歌妓解闷，损兵折将，丢失城池，他也从不过问，回来照样带兵做大官。赏罚不明致使统治集团内部松散不振，缺乏战斗力。
张士诚占领浙西这块富庶的鱼米之乡后，整个集团逐渐腐化堕落，士诚本人修了不少富丽堂皇的宫室和楼馆，如齐云楼、景云楼、看舸馆、芳惠馆等，整日寻欢作乐，日夜歌舞陪伴。张士诚之弟士信，尤为腐败，他拥有妻妾数百人，个个珠金玉翠，举行一次宴会，就要耗去上千石米；将帅们也都修府第，建园池，养女优，畜声伎，唯酒色耽乐是从。整个统治集团全都贪婪地追求享乐和富贵。生活上的骄奢淫逸，必然导致政治上的腐败无能。士诚本人不勤于政事，养尊处优，胸无大志，只满足保住这份家业，永世享乐，毫无进取之心。什么浙西的开拓，军国大事的决断，全都交给张士德。后张士德在与徐达交战中被俘，又委政于士信，以他为丞相。士信庸才，贪污无能，又嫉能妒贤，疏远旧将，上下猜疑，不肯用命。具体事情又全靠参事黄敬夫、蔡彦文、叶德新三人。此三个书生才小智疏，欺上瞒下，使国事日落。正如朱元璋所讲：“我诸事无不经心，法不轻恕，尚且有人瞒我。张九四（士诚）经岁不出门，不理政事，岂不着人瞒！”连东吴的百姓都编民谣说：“丞相做事业，专拜黄、蔡、叶，一朝西风起，下瘪！”
张士诚迫于朱元璋的军事压力，接受了元朝太尉的封号，正式降元。当时元政府财政危机，元大都严重缺粮；而张士诚有的是粮，这也是元朝招降士诚的重要原因。元至正十九年（1369年）九月，元朝政府派人给张士诚送了御酒、龙衣，要他发粮以解燃眉之急。他们安排张士诚出粮，方国珍出船，由海路运往大都。但张、方互不信任，均怕对方不怀好意。方国珍怕张士诚扣留他的船只乘虚进攻他；张士诚怕方国珍吞了他的粮食，无功还赔本。此事迟迟不能成行。后经元江浙行省左丞相达识帖木儿从中周旋，士诚才将粮食交出来。从元至正二十年（1360年）到元至正二十三年（1363年），张士诚每年要绐元朝十几万石粮食，为元朝解决了不少困难。1363年1月，他还帮助元朝攻占了大宋政权的据点安丰，誓与红巾军为敌。7月，苗军元帅杨完者依仗自己的实力不听达识帖木儿的调遣，不受元朝约束。张士诚又帮达识帖木儿除掉杨完者，并以此要求元朝政府给他加官晋爵，元廷没有答应。一气之下，9月张士诚自立为吴王，并停止向元大都运粮。第二年，元江浙行省左丞达识帖木儿失去了军队的支持，在张士诚的威逼之下将权力交给了张士信，受士诚挟持，不久被拘禁在嘉兴，后被迫服药自杀。
东吴统治集团的行为，引起了地主士大夫们的不满和非议；不少有志之士出于诚意规劝张士诚，如钱塘（今浙江余杭县）著名诗人杨维桢曾写信批评他，指出：“动民力以摇邦本；用吏术以括田租。”批评他“自选官吏，不上缴粮食”，特别指出：其将帅、守令、亲族只为自己谋私利，而误国误民、误阁下，你又是非不分，黑白不辨，赏罚不明，贪图暂时的小安，而忘记长远大计，并预言这样下去，不是有内乱，就是有外祸。杨维桢的话可谓肺腑之言，一针见血，切中要害，但张士诚根本听不进去，仍依然故我。
当张士诚醉生梦死、贪图安逸、耽于享乐之时，吴王朱元璋正在与谋士们分析当前军事形势，研究如何攻灭张士诚。
元至正二十三年（1363年），发生了诸暨守将谢再兴叛变朱元璋投降张士诚事变。谢再兴乃淮西旧将，朱元璋亲侄朱文正的岳父。他有两个心腹部下，一个是左总管，另一个是糜万户。两人曾派人携带违禁品到杭州贩卖，被朱元璋发现。朱元璋怕泄露军事秘密，下令杀了这两个人，砍下头来让人挂在谢再兴的办事厅里。谢再兴心里非常别扭。不久，朱元璋做主，把谢再兴的小女儿嫁给了徐达。随后，又召谢再兴到应天议事。朱元璋又下令调参军李梦庚节制诸暨军马，谢再兴降为副将。谢再兴异常气愤，说：“女嫁不让我知似同给配，今又让我听人节制！”于是捉了李梦庚和元帅王玉等人，奔绍兴投降了吕珍。这事差点儿没把朱元璋气疯了。他说：“谢再兴是我亲家，反叛我降士诚，情不可恕！”但冷静下来，朱元璋很容易联想起一年前大将邵荣、赵继祖谋害自己一事。这件事一想起来，他就不寒而栗。邵荣与朱元璋都是在漳州参加起义的，应该说是生死与共的战友，他以军功从枢密院同知升为中书平章政事，与徐达、常遇春被人称为三杰。元至正二十二年（1362年）七月，事发被告。朱元璋命廖永忠安排酒席，席间擒了二人，锁了脖子，朱元璋与他们对饮，问：“我与尔等同起濠梁，望事业成，共享富贵，为一代之君臣，尔如何要谋害我？”邵荣回答：“我等同年出外，取讨城池，多受劳苦，不能在家与妻子相守同乐，所以举此谋。”说完直落泪，不肯饮酒。皆是淮西旧将，又都是在最艰难的环境里闯出来的，仅用不能在家与妻子相守同乐作为谋反的根据，实在不能令人信服，值得进一步探讨。眼下发生的谢再兴叛降张士诚一事，确实再一次引发朱元璋深思。气愤之余，他想得更多的是今后如何驾驭众将官，从此更引发朱元璋对部下猜忌防范、残忍好杀的性格。
张士诚利用谢再兴的叛降，继续加紧与朱元璋争夺诸暨。同年九月，李伯升再率大军围攻此城。由于李文忠和胡琛在距诸暨约五十里的五指山下筑起新城，非常坚固，只好无功而还。元至正二十五年（1365年）二月，张士诚又派李伯升挟谢再兴统兵二十万，再次围攻诸暨，被李文忠击败。数次的攻坚争夺战，并没有给朱元璋造成威胁，反而使张士诚损兵折将，大伤元气。与此同时，朱元璋胜利地结束了对陈友谅及其余部的战争，从武昌凯旋归来。一场孕育已久的对东吴的战争即将开始。
元至正二十五年（1365年）十月，朱元璋挥戈东向，在江淮地区打响了进攻张士诚的战役。在进行大规模的攻坚战之前，朱元璋和将士们分析了张士诚防区的情况，认为张士诚的统治中心是以平江为中心的江南浙西地区，此地区人口密集，物产丰富，兵力相对集中，防守也比较坚固，江北的淮水流域防守相对薄弱，而且中间有长江相隔，南北兵力不好互应。于是朱元璋制定出“先取通、泰诸郡县，翦士诚肘翼，然后专取浙西”的总的战略方法。
按此方针，整体作战步骤又分三阶段进行：第一阶段，主要是攻取江北的准东地区，剪士诚羽翼；第二阶段，分兵两路攻取潮州、杭州、断东吴两臂；第三阶段，围张士诚老巢平江，攻其腹心，彻底削平东吴。
元至正二十五年（1365年）十月十七日，徐达奉命总领平章常遇春、胡廷瑞、同知枢密院冯国胜、左丞华高等，率马步舟师水陆并进，攻取淮南军事重镇泰州等处。
徐达等出师不久，吴王朱元璋就派使者赶到军前，一是将北方元兵重要将领扩廓帖木儿的行军动向等消息通报给徐达，说：“迩闻王保保兵入关中，为李思齐、张思道逐出潼关，还至汴梁。复东取乐安，又为俞宝所败，追过清河，溺死者甚众。今王保保驱其人民已北遁矣。孔兴、脱烈伯、天保奴兵走三晋、汴梁、唐、邓、南阳之间，余兵据守，尚未宁息。河南洛河水决，漂荡二千余家，天下扰扰如此，当何时可定也。此迤北消息汝宜知之”，再者就是告诫徐达，说：“夫军旅重事，尤宜加慎，如获张士诚将校，遣来吾自处之。”
十月二十一日，徐达兵趋泰州，“浚河（当指运河）通舟师”，道遇张士诚兵，将其击败，俘获马30匹、船200艘，随即驻军海安坝上。二十三日，徐达兵围泰州新城，大败张士诚所遣援兵，生擒其元帅王成及部卒400余人。二十五日，常遇春又领兵击败张士诚部下淮安李院判所部援兵，擒其万户吴聚等129人。在断绝泰州守军的外援后，徐达派人进城劝降，但张土诚部下佥院严再兴、副使夏思忠、院判张士俊等仍然拒不投降。
闰十月初一，吴王朱元璋因为江阴水寨守将康茂才报告说：“张士诚以舟师四百艘出大江（即长江），次范蔡港，别以小舟于江中孤山往来出没无常，疑有他谋”，并“请为之备”，即日遣使来到徐达军营，说：“近得康茂才报，张士诚以舟师往来江中，吾度此寇非有攻江阴直趋上流之计，不过设诈疑我，使我陆寨之兵还备水寨。我兵既分，彼将弃我水军，疾趋陆寨，捣吾之虚。此寇一计也，尔宜备之。”又道：“闻常遇春出海安七十余里击寇，寇兵不过万人，此非抗我大军之势，盖欲诱遇春深入。使我军去泰州既远，彼必回师以趋海安，或趋泰州，令我大军势分，首尾冲决，不及救援，此又寇一计也。兵法致人而不致于人，尔宜审虑。”命令徐达在使至之日即令常遇春驻师海安，“慎守新城，坐以待寇”，如果张士诚兵“远来趋敌”，则“以逸待劳”，将其一举歼灭；同时设法防备“泰兴以南并江寇舟”。此外，迷信的朱元璋还根据“占卜”的结果，告诫徐达闰十月二十九日要“坚壁勿轻出”，如果敌人来犯，“则当速战”；十一月初十、十一日，都必须“慎毋出兵”，到十二日、十三日“乃可用师”。初五，朱元璋再次遣使谕令徐达道：“寇兵初驻范蔡港，吾度其有诈。今观望犹豫，不敢即溯上流，其为诈益明。然寇计不过欲分我势，非有决机攻战之谋，宜遣廖永忠还兵水寨，大军勿轻动。此寇徘徊江上，自老其师，乘其怠慢，此月必克泰州。泰州既克，江北瓦解，寇不战自溃，但宜谨备之耳。”当天，朱元璋因担心前线有失，亲自来到江阴康茂才水寨视师。在看到徐达行军无有不妥后，他派人持手书传谕徐达等说：“初予闻尔等与寇相距甚迩，为是驰至此，恐有缓急，相为策应。及至，乃知不然。今遣陈经历去，汝有所言，即疾驰来报，予驻师以待。”初七，朱元璋安心地回到了应天。同一天，徐达将所获张士诚部下万户吴聚等129人送至应天，朱元璋命将吴聚等遣戍潭州。
是月（闰十月）二十六日，徐达所部攻克泰州，俘获张士诚部将严再兴、夏思忠、张士俊等94人，兵卒5000人，马160余匹，船40余艘。徐达派遣屠千户将所俘5000人送往应天报捷，并向朱元璋请示有关守城事宜。随后，徐达得令“便宜”处置泰州城守事宜，且奉旨乘胜进取淮南“未下诸城”。二十九日，朱元璋又将徐达所送泰州俘虏5000人安置于潭、辰二州，以加强当地防务。当天，徐达遵照吴王朱元璋的指令，开始出兵扫荡淮南未下城池。
十一月初八，徐达率兵进攻张士诚的老巢、淮南重镇高邮。朱元璋得知这一消息后，担心徐达深入敌境，无法与其他将领相互策应，于是遣使即军中，命同知冯国胜率所部节制高邮诸军，令徐达还军泰州，围取淮安、濠州、泗州。在谕令中，朱元璋对徐达道：“为将之道，贵于持重，进师攻取，宜加审察。近闻提兵远出，深入重地，此甚不可也。若常平章（指常遇春）独提偏师备寇江上，即有缓急，谁复为之应援者，宜还师泰州，兼总冯国胜所部，留兵15000人以取末下州郡。尔居中节制，见可而进，协和诸将，一乃心力，以成大勋。毋或轻动，以失事机！”为此，徐达一度中止了对高邮的军事行动。
当月稍后，由于张士诚兵寇宜兴，徐达奉吴王朱元璋之命，派冯国胜围攻高邮，命常遇春守海安，另遣将领留守泰州，亲自率领中军精兵渡江南下，增援宜兴。在宜兴城下，徐达所部大败张士诚兵，俘敌三千余人，成功地解救了宜兴。在徐达兵援宜兴期间，高邮城中张士诚部将俞同佥遣人前往冯国胜军中诈降，许诺愿做内应。冯国胜信以为真，乘夜派遣康泰率兵千人逾城而入，结果康泰等全部被杀。朱元璋得报后，大怒不已，重责冯国胜，同时传令催促徐达移兵攻打高邮。
十二月初十，徐达率军回到宜兴，督兵猛攻高邮。高邮守将俞同佥坚守城池，徐达屡攻不下。张士诚命令左丞徐义由海道入淮，增援高邮，但徐义认为张士诚此举是故意“陷己死地”，心中怨恨不已，因此驻军太仓，历经三月不肯出兵。
元至正二十六年（1366年）二月二十一日，徐达派使者到应天，请求以指挥孙兴祖守海安、平章常遇春督水军作为高邮声援，得到吴王朱元璋的批准。朱元璋在答复徐达的敕谕中道：“尔所请策皆善，前报彼军事势轻重不一，及俞平章（即俞通海）请军甚急，盖因其未尝独将，料度末至，是以如此。安丰竹昌粮尽将遣，此不足虑。张士诚兵多有渡江者，宜且收兵驻泰州，彼若来攻海安，则击之。”二十三日，朱元璋又遣使告诫徐达，说：“江阴进至张士诚降将秦德等二十人，言士诚之志无日不在泰州、高邮，已六遣兵渡江，其骁将单庄亦从徐义趋淮安矣。高邮、海安宜慎方略，勿堕其计。”二十八日，朱元璋因得知徐义自海道入淮以援高邮，又听说扩廓帖木儿想南攻两淮，再次遣使指示徐达道：“张士诚由高邮啸聚以有吴越，高邮盖其巢穴也，大军攻之，彼必来救。今闻徐义兵已入海来援，王保保亦将兵南来，吾料王保保马步必假道天长，徐义舟师或由射阳湖，或出瓠子角，或出宝应，以趋高邮。二兵苟合，不可不备。通州有（张）士诚从子火眼张，乃疑兵，必不敢出。然军之胜败在主将言者，王保保虽拥重兵，然千里远来，其势必弊；徐义刚愎自用，军无纪律，以我节制之师当之，可以必胜。尔但秣马厉兵，谨俟其至。”不久，扩廓帖木儿得知徐达所部已经有备，遂中止了南进的步伐。
三月初八，徐达奉命分兵攻取高邮、兴化及淮安。在给徐达的谕令中，吴王朱元璋指示道：“闻寇兵在高邮者不满五千，淮安兵仅六千，兴化民自为守，宜令常遇春还军海安坝，巡略四境，别遣将以兵三千守海安城，通州盐场诸处亦宜慎守。汝于扬州、泰州二军分取二万直捣高邮，令别将取淮安、兴化。敌见吾兵攻淮安，深入重地，必来乘我，若不攻海安与常遇春求战。必将攻掠镇江，此须令（常）遇春知之。凡军马除攻高邮发取淮安、兴化，余悉以付（常）遇春，使得有以备之。吾料其势如此，尔等又当临机处置，毋执一也。”徐达在增兵高邮后，加强了对守城敌人的攻势。十四日，终于攻拔了高邮。
徐达克服高邮后，处死了首犯俞同佥等，另外俘获了张士诚官将1037人，士卒1175人，马373匹，民1397户，粮8000石，并遵命将所俘张士诚部下将士全部遣戍沔阳、辰州，每人“仍给衣粮，有妻子者赐夏布人五匹，兀者半之”。
元至正二十六年（1366年）三月二十五日，徐达奉命统率步骑一万五千、舟师一万，水陆并进，乘胜直取位处淮河南岸之军事要塞淮安，其余军马则全部交由常遇春统领驻守泰州、海安，以“应援江上”。
四月初二，徐达兵至淮安。在得知张士诚部下左丞徐义率军驻扎马骡港的消息后，徐达连夜率兵往袭，攻破其水寨，徐义泛海逃遁，缴获其船只百余艘，俘虏院判钱富等及兵3000余人。随后，徐达率舟师进至淮安城下，守将右丞梅思祖、副枢唐英、萧成等出降。徐达所部又俘虏张士诚部下官员500余人、士卒一万人，得到居民4000余户，缴获粮食四万石、马1500匹。
在委任指挥蔡仙、华云龙负责驻守淮安城后，徐达随即统兵进取兴化，继续扩大战果。事实上，徐达早在奉命出兵扫荡淮南未下诸城的当天，就曾遣黄旗千户刘杰分兵到兴化，并击败了张士诚部下兴化守将李清。接着，刘杰又击溃了张士诚部将陈元帅所部援兵，并缴获战船15艘及大批其他武器装备。但是李清在战败后，敛兵入城，闭门固守，刘杰屡攻不下。后来，吴王朱元璋仔细审阅了徐达奉命绘制并进献的兴化地图，发现瓠子角为兴化要害，系“寇兵所出之路”，便命令徐达“以兵绝其隘”。徐达依计而行，终于在四月初七攻克了兴化。
为了确保在淮南地区的胜利成果，吴王朱元璋在四月初十特命朱文忠来到徐达军中，与徐达等共商淮安城守事宜。在敕谕中，朱元璋嘱咐徐达道：“大军既克淮安，足以保障江淮，控制齐鲁。然将士新附，军士移戍者多，留镇者少。今就于其属选将简卒，人人望长其属，不得则易怨，将军在处置得所，使上下相安，则吾无阃外之忧矣。”
徐达所部出师淮南，连战告捷，军威远播。元至正二十六年（1366年）四月，元徐州守将枢密院同知陆聚被迫前往徐达军中请降，献上了淮北徐、宿两州之地。紧接着，徐达又率部击溃元将忻都、竹昌等所部元兵，攻克了寿春；派兵增援徐州，大败元将扩廓帖木儿。
至此，经过徐达等人的共同努力，淮河以南的全部以及淮河以北至黄河下游段的大片地区，都已纳入了以吴王朱元璋为首的吴政权的版图之中，史载：徐达败扩廓帖木儿于徐州后，“淮南北悉平”，便是有力的证明。同年五月，徐达奉命自寿春班师返回应天，正式结束了他的淮南之行，准备与平江张士诚展开总决战。
徐达统兵削平淮南地区，不仅达到了吴王朱元璋剪除张士诚之肘翼的预期目标，而且进一步壮大了吴王政权的声威，增强了吴王政权的军事、经济等实力，为吴王朱元璋随后派兵南下攻灭张士诚创造了良好的条件。
元至正二十六年（1366年）七月二十七日，吴王朱元璋以“淮东诸郡既平”，召集中书省及大都督府臣商讨出兵消灭张士诚之事。朱元璋说道：“张士诚据姑苏，数侵扰吾近地，为吾境内之寇，不可不讨，诸公其熟计之。”右相国李善长认为出兵讨灭张士诚的条件尚未成熟，应等待良机，说：“张氏宜讨久矣，然以臣愚观之，其势虽屡屈而兵力未衰，土沃民富，又多储积，恐难猝拔，宜视隙而动。”朱元璋不以为然，反驳道：“彼昏淫益甚，生衅不已，今不除之，终为后患。且彼疆域日蹙，长淮东北之地皆为吾有，吾以胜师临之，何忧不拔？况彼败形已露，何待观隙！”这时，左相国徐达站了出来，表示赞同吴王朱元璋的看法，并且主动请缨，说：“张氏骄横，暴殄奢侈，此天亡之时也。其所任骄将如李伯升、吕珍之徒，皆龌龊不足数，徒拥兵众为富贵之娱耳。其居中用事者，黄、蔡、叶三参军辈，迂腐书生，不知大计。臣奉主上威德，率精锐之师，声罪致讨，三吴可计日而定。”朱元璋听了徐达的这番话后，喜形于色，对徐达说：“诸人局于所见，独尔合吾意，事必济矣。”于是，朱元璋下令诸将“简阅士卒，择日启行。”
八月初二，吴王朱元璋正式下令任命中书左相国徐达为“大将军”，平章常遇春为“副将军”，率领20万大军，攻打张士诚。朱元璋亲自来到戟门，召集出征将士，阐述出兵的原因与必要性，强调行军纪律，告诫他们务必齐心协力、爱抚士卒，勉励他们克敌制胜，说：“古人立大功于天地间者，必因其时以行其志，如伊尹佐汤以伐桀、吕望佐武王以翦商，皆得其时，而志在于天下苍生也。自大乱以来，豪杰并起，所在割据，称名号者不可胜数。江南乱雄，西有陈友谅，东有张士诚，皆连地千里，拥众数十万，吾介乎二人之间，相与抗者十余年。观二人所为，其志岂在于民，不过贪富贵、聚渊薮、劫夺寇攘而已。（陈）友谅败灭，独（张）士诚据有浙西，北连两淮，恃其强力，数侵吾之疆场。赖诸将连岁征讨，克取两淮之地。今唯浙西姑苏诸郡未下，故命卿等讨之。卿等宜戒饬士卒，毋肆掳掠，毋妄杀戮，毋发丘垅，毋毁庐舍。闻张士诚母葬姑苏城外，慎勿侵毁其墓，汝等毋忘吾言。诸将帅务在辑睦，勿纵左右欺凌军士。凡为将之功，必资士卒，善抚恤之。大抵克敌者必以成功为效，树德者必以广恩为务。卿等勉之！”诸将部“再拜受命”。朱元璋还郑重其事，命令“人给一纸”以“戒约军中事”，也就是让众将领当面立下了军令状。
徐达等临行前，吴王朱元璋又对出征将士的进军路线做出了安排，命令他们先取湖州，然后再攻张士诚的统治中心平江。
元至正二十六年（1366年）八月初四，大将军徐达统领大军自龙江启程。十二日，师至太湖。二十日，副将军常遇春击败张士诚兵于湖州港，擒其将尹义、陈旺，兵次洞庭山。朱元璋得知消息后，高兴地说：“胜可必矣。”二十四日，徐达所部进至湖州之毗山，击败并活捉了张士诚部将石清、汪海。张士诚驻军太湖之上，“不敢战而退”。这时，随同徐达出征的指挥熊天瑞竟然叛降张士诚。
第二天（即八月二十五日），徐达进兵至湖州之三里桥，张士诚右丞张天骐分兵三路拒战：参政黄宝当南路，院判陶子实当中路，张天骐自当北路，同佥唐杰为后继。徐达率兵进攻，有术者进言说：“今日不宜战。”常遇春大怒，说：“两军相当，不战何待？”于是徐达派常遇春攻打黄宝，王弼进攻张天骐，自己从中路猛攻陶院判，别遣骁将王国宝率长枪军直逼湖州城，扼敌出入之路。常遇春出战，黄宝败逃。因湖州城下吊桥已被斩断，黄宝无法入城，被迫返身再战，结果兵败被擒，其所部元帅胡贵以下官将200余人一并被俘。张天骐、陶子实都不敢接战，收兵退入城中。张士诚又遣其司徒李伯升来援，由获港、湖州东门潜入城中。徐达挥兵将湖州城团团围困起来，派兵昼夜攻打，李伯升与张天骐闭门拒守。尔后，徐达派王国宝攻其南门，自己统领大军继之而进。张士诚部下同佥余德全、院判张德义、陶子实率军出战，结果一一败逃。张士诚又派遣其五太子、平章朱暹、王晟、同佥戴茂、吕珍、院判李茂等率兵6万来援，声称30万。他们进屯湖州城东一个叫旧馆的地方，并在此修筑了五个兵寨，既用之自保，又以此作为支援城中守军的据点。与此同时，徐达则分兵驻扎在东阡镇南姑嫂桥，一连修筑了十个营垒，将城内敌军与张士诚的旧馆援兵分隔开来，以截断他们之间的联系。随后，双方在旧馆展开了激烈的交锋。
双方在旧馆对垒后，张士诚部将李茂、唐杰、李成因“惧不敌”，相继逃走。张士诚的女婿潘元绍驻兵于乌镇之东，为旧馆吕珍等声援。徐达派兵乘夜攻袭，潘元绍也被迫逃遁。随后，徐达命令部下填塞沟港，截断了旧馆的粮饷供给线。张士诚“知事急”，亲自率兵来援。徐达挥兵与张士诚战于皂林镇郊外。大败其众，俘虏其部下戴元帅及将士3000余人。这时，坐镇应天的吴王朱元璋因担心徐达等部队不严，从征官兵“贪暴掠人子女财货，使民嗟怨”，给战争带来不利的影响，又特意命令中书省臣传谕徐达等“务在安辑”，严明军纪。
九月十二日，张士诚又派同佥徐志坚率兵乘轻舟出东阡镇以战徐达之师，企图袭击姑嫂桥。副将军常遇春率兵外出巡视，恰好与敌相遇，于是双方展开激战。交战中，忽然风雨大作，天昏地暗。常遇春命勇士划小船数百突击，大败敌兵，生擒徐志坚，俘其众2000余人。张士诚得知徐志坚兵败被擒的消息后，心中非常恐惧。二十六日，徐达派部将左丞廖永忠、参政薛显率军自湖州南出，攻占了德清，缴获敌船40艘，生擒张士诚部将院判锺正等。同一天，张士诚派其右丞徐义至旧馆一带窥探军情。在徐义准备返程报信时，常遇春及时率兵控扼了他的归路。徐义无法离开，转而暗中派人约张士诚的弟弟张士信出兵，与旧馆之兵合力来战。张士诚又派遣其赤龙船亲兵前往增援，徐义这才逃脱。徐义脱困后，先与潘元绍率赤龙船兵屯于平望，后又抛弃赤龙船，乘小舟前往乌镇，想再援旧馆。常遇春一路追击，至平望，纵火焚其赤龙船，张士诚屯积在此的“军资器械一时俱尽”，部众四散而逃。张士诚旧馆之兵的外援从此断绝，由于粮饷不继，将士纷纷出降。
十月初三，大将军徐达将所俘张士诚将士带到湖州城下示众，“城中大震”，敌人军心动摇。初四，常遇春兵攻乌镇，徐义、潘元绍及甘院判败逃。常遇春率兵追至昇山，攻破张士诚部下平章王晟驻守的陆寨。王晟率残部逃入旧馆之东壁，其同佥戴茂乞降。常遇春乘胜杀入，当晚又降服了王晟。三十日，徐达挥兵进攻昇山敌军水寨。徐达部将顾时故意带着手下划几条小船绕着张士诚的高大兵船打转，张士诚部兵“俯视而笑”。顾时见敌人放松了警惕，迅速率壮士数人跃上敌船，大呼奋击。徐达部下其他战船乘机“竞进薄之”。五太子率重兵来援，常遇春稍稍退却，薛显立即率领舟师奋力前冲，英勇搏战，且纵火焚烧敌船，终于大败敌军。张士诚部下得力大将五太子、朱暹、吕珍等被迫率其余部6万人投降徐达，旧馆告克。
徐达所部将士获得旧馆之役的胜利，沉重打击了张士诚的气焰，大大增强了吴王朱元璋取胜的信心。
十一月初五，徐达派冯国胜带着降将吕珍、王晟等到湖州城下示众，并劝湖州守将李伯升投降。徐达此举令湖州城中守军“大惊”。正在城墙上督师的李伯升深知湖州势必不保，但又不忍背叛张士诚，万般无奈之下，欲抽刀自尽，结果被他身边的人死死抱住，自杀未成。这时，左右之人又劝他说：湖州“援绝势孤，久困城中不如降”，李伯升“俯首不能言”，于是左丞张天骐、总管陈昧等打开城门，降于徐达。李伯升走投无路，也只好投降。至此，湖州之役宣告结束，徐达所部大获全胜。
当湖州之役尚在紧张进行时，张士诚就已在平江聚集重兵，准备随时抵御大将军徐达所部将士的进攻，以确保其统治中心的安全。对此，吴王朱元璋也早有预料，所以他在元至正二十六年（1366年）九月十六日特地派遣部将朱文忠率兵进攻杭州，以其牵制张士诚的兵力，支援徐达。在谕令中，吴王朱元璋还嘱咐朱文忠说：“徐达等取姑苏，张士诚必集兵以拒，今命尔攻杭州，是掣制之也。我师或冲其东，或击其西，使彼疲于应战，其中必有自溃者。尔往，宜慎方略。”
徐达占领湖州后，乘胜挥师向平江进发。十一月十一日，徐达兵至南浔镇，张士诚部将元帅王胜投降。十三日，兵至吴江州，围攻其城，张士诚部下参政李福、知州杨彝被迫投降。二十五日，徐达从太湖西侧出兵平江城南，在离城7里处的鲇鱼口附近攻破了张士诚部将窦义驻守的山栅，窦义败逃。紧接着，徐达部将康茂才又率兵至尹山桥，打败了途中遇到的张士诚部兵，并且举火焚毁了张士诚停泊在湖中的1000余艘战船及大量物资。随后，徐达统率水陆大军围攻平江城，正式与张士诚展开了总决战。
为了截断平江城守军与外界的联络，封锁其粮饷物资供应线等，徐达对围城任务进行了周密的安排和部署。他亲自领兵驻扎葑门，另外分派常遇春驻军虎丘、华云龙驻军胥门、汤和驻军间门、王弼驻军监门、张温驻军西门、康茂才驻军北门、耿炳文驻军城东北、仇成驻军城西南、何文辉驻军城西北。因“念姑苏坚难猝拔，而（张）士诚必死之寇，非可旦夕下也，令急攻克之，必多杀士卒，伤天子（指吴王朱元璋）吊伐之仁”，所以徐达下令环城筑墙，将平江城团团围困起来，同时命令部下“架木塔与城中浮屠对，筑台三层，下瞰城中”，名之曰“敌楼”。“敌楼”上每层都布置了弓弩、火铳，还架设有“襄阳炮”。这种襄阳炮威力极大，“著物无不糜碎，炮风著人皆死”。徐达所部将士借此居高临下，向平江城大量发射箭矢、铣石等，城中为之“震恐”。
但是，由于平江城坚固异常，张士诚亲督守军拼力拒守。张士诚部下枢密院同佥莫天祐率兵驻扎于无锡，与张士诚互为声援；加之吴王朱元璋“初不欲烦兵”，不想在平江大动干戈，希望能够“困服”张士诚等种种原因，徐达围攻平江之初，成效并不显著，而且其部下武德卫指挥副使茅成还在一次攻打娄门的战斗中阵亡。为了进一步孤立平江城敌军，打击张士诚部的士气，徐达又分兵攻取平江附近城池，招降当地守臣。徐达部将俞通海奉命率兵进取太仓，当地守将不战而降，“民争献牛脯”。稍后，张士诚部下崇明、嘉定、松江等地守臣纷纷归降。
这时，莫天祐部将中有一个叫杨茂的人，水性极好，莫天祐派他暗中来往于无锡和平江之间，一则用其充当使者，联络张士诚，互通信息；二则用其为间谍，沿途搜集有关徐达所部的军事情报。后来，徐达部下巡逻士兵在间门水栅旁将其抓获，并将他押送至徐达处。徐达不但没有把他当作奸细关押起来或处以死刑，反而“亲解其缚，推以腹心”。杨茂对徐达感恩戴德，真心降服。尔后，徐达“纵（杨）茂出入往来”于无锡和平江之间，让他继续充当莫天祐与张士诚之间的信使。因此，徐达尽得敌方彼此之间的往来文书“蜡丸书”，掌握了张士诚、莫天祐的虚实，围攻平江城的计划更加完备，部署更为缜密。
张士诚被围日久，城中军民处境艰难，因此想突围出战。徐达部署在城左的将士“军阵严整”，张士诚不敢进攻。元至正二十七年（1367年）六月初四，张士诚派徐义、潘元绍率兵暗中溜出西门，再转到闻门，想去偷袭常遇春设在虎丘的兵营。常遇春发觉敌人的行踪后，立即分兵绕出敌后，断其归路，并派兵从正面迎击来犯之敌。双方交战良久，未能决出胜负。张士诚在派出一支千余人的军队前往助战的同时，亲自领兵增援。常遇春得知张士诚在途中因道路狭隘受阻的消息后，不敢怠慢，马上组织人马进攻张士诚，他对部将王弼说：“军中皆称尔为猛将，能为我取此乎？”王弼应声而出，立刻飞身上马，挥舞双刀，率部冲向敌军。敌军稍退，常遇春趁机率众齐出搏杀。张士诚兵大败，人马溺死者众多，张士诚本人也因坐骑受惊掉落水中，险些被淹死，后来被部下救起并用肩舆抬回城中。自此以后，张士诚“计忽忽无所出”。
前时投降徐达的李伯升见张士诚处境窘迫，在征得徐达同意后，派说客前往求见张士诚，力劝其降。张士诚召见来使时，茫然问道：“尔欲何言？”来使回答说：“吾言为公必亡祸福之计，愿公安意听之。”张士诚漠然问道：“何如？”来使说：“公知天数乎？昔项羽喑呜叱咤，百战百胜，卒败北垓下，天下归于汉祖，何则？此天数也。公初以十八人入高邮，元兵百万围之，此时如虎落穽中，死在朝夕。一旦元兵溃乱，公遂提孤军乘胜攻击，东据三吴，有地千里，甲士数十万，南面称孤，此项羽之势也。诚能于此时不忘高邮之危，苦心劳志，收召豪杰，度其才能，任以职事，抚人民，练兵旅，御将帅，有功者赏，败军者戮，使号令严明，百姓乐附，非特可保三吴，天下可取也。”张士诚怆然道：“足下此时不言，今复何及。”来使说：“吾此时虽有言，亦不得阐也。何则？公之子弟、亲戚、将帅罗列中外，美衣玉食，歌妓舞女，日夕酣晏，身衣天下至美，口甘天下至味，犹未厌足。提兵者自以为韩、白，谋划者自以为萧、曹，傲然视天下不复有人。当此之时，公深居于内，败一军不知，失一地不闻，纵知亦不问，故沧至今日。”
张士诚愤然道：“吾亦甚恨无及，然则今当何如？”来使说：“使死有益于国家，有利于子孙，死固当，不然徒自苦耳。且公不闻陈友谅者，跨有荆楚，兵甲百万，与江左之兵战于姑孰，鏖于鄱阳湖。（陈）友谅举火欲烧江左之船，天乃反风而焚之，（陈）友谅兵艘身诞。何则？天命所在，人力无如之何。且今攻我益急，公恃湖州援，湖州失；嘉兴援，嘉兴失；杭州援，杭州又失。今独守此尺寸之地，誓以死拒，然窃虑势极患生，猝有变从中起者，公此时欲死不得，生无所归。故吾窃以为莫如顺天之命，自求多福，令一介之使，疾走金陵，称公所以归义救民之意。公开城门，幅巾待命，亦不失为万户侯，况尝许以窦融、钱俶故事耶？且公之地，譬如博者得人之物而复失之，何损？”张士诚仰头沉思了很久，怅然道：“足下且休，待吾熟思之。”但他始终狐疑不决。
六月初七，张士诚又突然率兵杀出胥门，来势十分凶猛。常遇春出兵抵御，敌军稍退。正在平江城楼上督战的张士诚弟张士信见状后，急忙大声喊道：“军士疲矣，且止且止。”张士诚听到喊声，立即鸣金收军。常遇春趋势奋击，一路追杀，大败张士诚兵，最后将其逼入城中，并趁机在逼近城门的地方筑起了军事堡垒，“自是（张）士诚不复得出矣”。当天稍后，张士信在平江城头上支起帐篷，坐在银椅上与参政谢节等人一起聚会吃喝。左右侍从刚刚献上鲜美的桃子，张士信还没有来得及尝一口，就被徐达部下发射的炮石击中头部，当场脑浆四溅，命丧黄泉。张士信暴毙后，张士诚“气益夺”。后来，熊天瑞也教张士诚兵制作“飞炮”（类似于徐达军中装备的“襄阳炮”）攻击徐达所部，平江城中木材、石料被用尽了，他们又拆毁寺庙、民居做炮具。为了尽量减少部下将士的伤亡，徐达下令军士“架木若尾状，承以竹笆，军伏其下，载以攻城”，以避其矢石。
徐达兵围平江城长达九个多月后，张士诚与外界的一切联系几乎都被切断，内无粮草，外无援兵，几次突围又都惨遭失败，已经到了山穷水尽的地步。徐达“知其城中困乏”，而张士诚又不肯俯首就擒，于是决定对平江城发起总攻。
九月初八，徐达亲自督率将士攻克葑门，同时常遇春也率部攻破了闻门，直逼平江内城之下。张士诚坐镇军门，派遣枢密唐杰登城指挥作战，同时命令参政谢节、周仁负责树栅以修补外城。唐杰心知不是徐达的对手，平江势必不保，率先举兵投降，周仁、徐义、潘元绍等也相继投降。双方鏖战至傍晚时分，张士诚军溃败，徐达部下各路将士登城，成功地突破了敌军的城防。接着，张士诚又令其副枢刘毅收集残兵二三万，亲自披挂上阵，督战于万寿寺东街，与徐达所部将士展开巷战，结果又遭失败。刘毅投降，张士诚仅率数骑仓皇逃回府邸。在此之前，张士诚屡遭兵败，曾对其妻子刘氏说：“我败且死矣，若曹何为？”刘氏回答说：“君勿忧，妾必不负君。”后来，刘氏便派人在府中齐云楼下堆放了大量的柴草，旁人不明其意。平江城破后，刘氏将张士诚的众妾及侍女驱赶到齐云楼上，逼迫她们自尽，然后令其养子张辰保纵火焚楼，她本人也随后自缢而死。张士诚独自坐在府中，左右随从四散逃亡。
当晚，徐达派李伯升前往劝降，张士诚闭门不见，上吊自杀。李伯升见状，立即破门而入，命人将张士诚抱了下来，张士诚“气未绝复苏”。徐达命令降将潘元绍一再晓之以理，但张士诚始终紧闭双目，不言不语。徐达只好临时派人用一个旧的盾牌将张士诚抬出葑门，途中又改用门板，一直将他抬到了停泊在苏州城外的船中，准备将其送往应天。此役，徐达所部前后俘虏、迫降张士诚及其部下官将，及杭州、湖州、嘉兴、松江等路府官吏家属和外地寓居平江人员等，共计20余万人。
平江之役胜利结束后，徐达又加紧处理善后事宜：下令将所俘叛将熊天瑞就地正法，以儆来者；派人把张士诚等押送应天，交由吴王朱元璋发落；遣使前往应天，向吴王朱元璋报捷。
徐达在下令对平江城发起总攻之前，已与常遇春相约在城破之日，“中分抚定”，还曾专门召集将士申明军纪，命令他们每个人都在胸前挂一块小木牌，上面写着：“掠民财者死，拆民居者死，离营二十里者死。”平江城破之后，徐达、常遇春依约分驻城区的左、右两侧，全军“号令严肃”，所部将士“莫敢妄动”，城中居民“不知有兵，食寝互市如故”。正因如此，所以在徐达率部进驻平江城后，不但出现了“苏民自相咎曰：‘奈何久抗王师’”的奇异景象，而且消息不胫而出，“远近悦之”，徐达及其所部军队随之声名远扬。
平江城破、张士诚被俘后，原张士诚部下骁将莫天祐仍然驻守无锡。在此前后，徐达曾多次遣使劝降，但都被他杀害。九月初十，吴王朱元璋下令中书省平章胡廷瑞率军攻打无锡，又命大都督府副使康茂才领兵继之。无锡人张翼见情况紧急，率领城中父老前去劝说莫天祐，说：“吾民为张氏守十二年矣，张氏已就缚，固守将为谁？生民存亡，皆在今夕，愿熟思之。”莫天祐见大势已去，被迫在十四日率部投降。
当胡廷瑞等率军进取无锡之际，张士诚的从子、外号叫“火眼张”的张右丞依旧领兵数千镇守通州。为了清剿张士诚残部，避免后患，徐达在九月十二日派许千户率兵乘胜进取通州。许千户兵抵狼山后，张右丞率部出降。因此，徐达不费一兵一卒就获取了通州，并得其将士7342人、银印l颗、钢印12颗、马287匹、船214艘、粮52690余石。就在徐达派兵进取通州的同一天，吴王朱元璋因担心通州守军得知平江城陷、张士诚被俘的消息后惊溃，下令泰州指挥孙兴祖率兵攻取通州，等到孙兴祖兵至通州时，问题已经被徐达解决。
九月二十八日，徐达等回到应天，吴王朱元璋论功行赏。就在这一天，吴王朱元璋在戟门召见右相国李善长、左相国徐达等文武大臣，以及各卫指挥、千户、百户等，正式下达封赏之令。徐达因功勋卓著，被封为信国公，并获彩缎表里11匹。徐达受封信国公，标志徐氏家族正式建立。
