濠州五大帅中，郭子兴长期受到孤立，其部众也险遭覆灭。朱元璋虽然援救有功，但并没有得到更多的信任，迫于形势，他不得不离开濠州，创建了一支属于自己的队伍。
郭子兴遭绑
濠州城五大帅相互之间谁看谁都不顺眼，背地里都盘算着如何收拾对方。朱元璋担心真闹决裂了对谁都没有好处，这边劝着郭子兴，私底下又跟孙德崖联络感情。
至正十二年（1352）九月间，元朝丞相脱脱统率番、汉兵马十万进攻徐州（今江苏徐州），又在当地招募了三万人，身着黄衣黄帽，号称黄军。元朝大军在后，督令黄军全力攻城，竟然顺利拿下徐州。徐州城义军首领芝麻李逃出没多远，便被抓回来杀掉了。其部下彭大、赵均用率领残兵投奔到濠州。彭大是个有见识的人，跟郭子兴走得比较近。孙德崖担心吃亏，就拉拢赵均用，濠州城里继续明争暗斗。
没多久，孙德崖先动手了。他趁郭子兴只带两个亲随逛街的机会，令部下乔装打扮，在没人的地方绑了郭子兴，先是将其一顿毒打，然后将其押入大牢，打算趁郭部无主的机会，一举吃掉这支队伍。朱元璋听说郭子兴被绑后，非常吃惊，他料定孙德崖必有更大的行动，于是赶紧叫郭子兴的两个儿子天叙、天爵一起去找彭大，并许诺事成后推举他为淮王。彭大知道后大怒，带上自己的部队，马上就包围了孙府，朱元璋独自进入孙府进行谈判。孙德崖见事情败露，只好放了郭子兴。通过这件事，郭子兴认识到了朱元璋的才干。可是，他无法容忍一个能力比他强的人在他身边，时时担忧被取而代之，于是对朱元璋的态度急转直下。
心生离意
一天，郭子兴找了个事由，把朱元璋关了起来，目的是杀杀他的威风。谁知他的两个儿子竟然落井下石，暗中叫人不给朱元璋饭吃。这下可急坏了朱元璋的妻子马秀英，她偷偷去了厨房，找到了几张刚刚烙好的大饼。谁知，正当她要给朱元璋送去时，郭夫人碰巧走了过来。马姑娘一时着急，把大饼揣到了怀中。郭夫人见马姑娘神情慌张，觉得不对，细问之下才知道事情的经过。郭夫人一边答应会替朱元璋求情，一边赶紧叫马姑娘把大饼拿出来，可怜的马姑娘胸前竟然被烙饼烫起了几个大泡。
郭子兴原本只是想吓吓朱元璋，并不是真想杀他，所以郭夫人一求情，他便下令放了朱元璋。但经过此事之后，朱元璋决心离开他，去闯一番自己的事业。
由于长期被围困，濠州城里粮草和兵力都极为短缺。朱元璋借机请命，先是弄来一些盐，然后又到怀远换了一些米回来献给郭子兴。不过，这些大米并没有换回郭子兴对他往日的信任，反倒加重了郭子兴的担忧，于是他拨给朱元璋一些老弱残兵，令其带队去攻打有重兵看守的定远，想借机除掉朱元璋。没想到，朱元璋在察看敌情之后，把握元军缝隙，一举攻克了定远，获取物资后又赶在元军回援之前成功撤离，此后连下怀远、安奉、含山、虹县四城，四战四捷，锐不可当。取得这些胜利后，他又回到钟离，招募兵丁七百余人，其中包括徐达、周德兴等人。至正十三年（1353）六月，朱元璋升作带兵官。
组建队伍
朱元璋见在濠州称王的彭大和赵均用两个集团勾心斗角，根本无心治军，而郭子兴又不信任自己，于是交了兵权，主动请辞，精选了汤和、徐达、周德兴、花云、邓愈等二十四人离开了濠州，来到定远，很快组织起了一支千人左右的队伍。
四菜一汤
据说朱元璋称帝后，那些贫民出身的官员们穷奢极欲，天天过着纸醉金迷的生活。朱元璋很看不惯，决心要整治这股歪风邪气。
时隔不久，正逢马皇后过生日，各路官员都来贺寿，等到人来的差不多了，朱元璋叫人上菜，第一道是炒萝卜，第二道是炒韭菜，第三道是两大盘青菜，最后一道是葱花豆腐汤。众臣子大为不解，朱元璋解释道：“萝卜上了街，药店无买卖”、“韭菜青又青，长治久安定人心”、“两碗青菜一样香，两袖清风好丞相”、“小葱豆腐青又白，公正廉洁如日月”。
群臣听罢，都领会了朱元璋的用意，朱元璋借此时机向众官宣布，今后请客只能“四菜一汤”，这次皇后的寿宴就是榜样，有敢违反，严惩不贷。从此“四菜一汤”的规矩便成了廉政的榜样了。
朱元璋急于扩军，他听说在定远附近有一个驴牌寨，寨子里有一支三千多人的队伍，于是想好了说词，来到寨子里，打算说降这支队伍。一见寨主，朱元璋大喜过望，原来寨主竟然是他的旧相识。寨主当即摆下酒宴，跟朱元璋叙起旧来。当谈到归降一事时，寨主马上就答应了朱元璋。过了两天，朱元璋派使者前来收降，寨主很热情地接待了使者，可是提起收降的事，寨主却找种种借口推托，使者无奈，只好回去将此事如实报告给朱元璋。这样一来可激怒了朱元璋，他以邀请寨主过来饮宴为由，当下就把寨主给关押了起来。后来又以寨主的名义，令队伍转移到他这里来。就这样，这支三千多人的队伍成了朱元璋的部队。
朱元璋的野心越来越大，他又瞅准了横涧山一支有数万人马的土匪部队。这伙土匪的头目叫缪大亨，前几年元军围攻濠州城的时候，他的部队混在元军之中，参加过围城，本想从中捞点好处，结果元军没有攻下濠州，这股土匪也就白忙了一场。元朝有心要收编这支武装力量，派了个张知院管制他们。
当缪大亨听说朱元璋带着四千人马，要来攻打横涧山的时候，并没有放在心上。哪知朱元璋借着夜色偷偷包围了横涧山，以猛将花云为先锋，半夜里一声炮响，冲上山来，打了缪大亨一个措手不及。元将张知院听到炮响，早就吓得逃之夭夭。缪大亨的部队虽然人数众多，却远不是朱元璋队伍的对手，几乎没做半点有组织的抵抗，便全数归降了。朱元璋从数万降兵中留下精锐两万，严加训练，从此他才真正拥有了属于自己的部队。
冯氏兄弟
收编了横涧山两万精兵之后，朱元璋仍然没有一个安身立命的地方。在观察了附近大大小小的城镇之后，他决定先取地势险要的滁州（今安徽滁州），想以此为根据地。要攻滁州，先要稳定军心，要把这些收降的士卒，变成真正属于自己的人马，并不那么容易。在对降卒训话的过程中，朱元璋没有像其他带兵将领那样，只说些日后有福同享之类的话，而是毫不留情地指出降卒们为什么几万人马打不过几千人的道理。降卒们听了之后，非常佩服。他们认为跟着朱元璋这样一个有着严明军纪、有着战略思想的将领是有前途的，军队的军心从此也开始稳定下来。
在此期间，定远人冯国用、冯国胜（后改名冯胜）两兄弟听说朱元璋夜袭横涧山，收编缪大亨两万精兵的事后，了解到这支部队不但军纪严明、作战勇猛，而且还有一个了不起的将领，绝非一般的起义军可比。这兄弟俩本是定远附近的地主，因天下大乱，家乡不太平，所以组织地方上的一些佃户和乡民，用以自卫。在了解了朱元璋的来路之后，两兄弟决定带着队伍投到朱元璋的麾下。
朱元璋见这二人儒生打扮，像读书识字的秀才，于是就向他们讨教部队的出路。冯国用认为集庆（今江苏南京）这个地方不可不取，很多古书都形容此地“虎踞龙盘”，应该先取了集庆，站稳之后再向外扩充地盘。冯国用接着又说不能贪图眼前的金银玉帛，要多做好事，争取百姓的支持，这样建功就不是难事。朱元璋听后很高兴，便留下他们做了军中的参谋，从此朱元璋帐下又多了两位贤能之士。
冯国用在接下来的滁州、和州、渡江、太平、集庆等战役中屡立军功，升任亲军都指挥使，不久病死军中。洪武三年（1370），朱元璋大封功臣，仍不忘他的功劳，追封他为郢国公，肖像立于功臣庙，排位第八。而他的弟弟冯国胜在继承了兄长的职务之后，军功累积，中原平定时，被封为宋国公。
