有了水軍，朱元璋（當時仍打著宋軍旗號）舳艫齊發，乘風渡江，在采石磯與元兵遭遇，常遇春當時剛剛加入打第一仗，「挺戈奮進，守者披靡」，諸軍鼓勇跟進，攻克采石磯，緣江堡壘紛紛歸附。
宋軍士卒看見糧食牲口，搶都來不及，口中嚷嚷著要將之搬回和州。朱元璋見狀，跟徐達商議後，將船纜繩通通斫斷，推入江流，霎時江邊空無一船，諸軍士慌亂叫苦。
朱元璋下令：「前面是太平府，子女玉帛無所不有，攻下任爾取用。」軍士於是個個奮勇爭先，兩天後攻下太平城。
大軍進城時，李善長已經在城門口張貼告示，嚴禁擄掠，違者斬首。斬了一個小兵之後，全軍肅然，可是又擔心軍心不穩，教城內富戶捐出金銀財帛，分給將士。然後在慶功宴上將李扒頭灌醉，捆住手腳，推入江中，完全掌握水軍。
【覘】紅軍起於蘇北，攻城掠地也多往北發展，基本上都是「陸軍」，而濠州城內「一個埤塘五隻龍」的困局，正因為他們都是「旱龍」，所以沒有能力渡過長江往江南發展。
朱元璋有了水軍之後，競爭力立即超越了濠州五大帥，這是他脫穎而出的重要關鍵。
然而，朱元璋不願留在濠州與諸帥攪和，卻接受了巢湖的水泊草寇，又是什麼考量？簡單說，就是「競爭力」──有了水軍，他就有能力渡江，有能力參與江南魚米之鄉的逐鹿大賽。後來的發展完全印證這一點。
太平城耆老出城迎接朱元璋，其中有一位飽學之士陶安，朱元璋問他：「我想要攻取金陵，你的看法如何？」陶安說：「金陵是帝王之都，形勢龍盤虎踞，又有長江之險，占據金陵，然後攻取四方，無往不克，那正是老天資助你的禮物啊！」（註：今天的南京當時官方名稱是「集慶」，可是史書記載紊亂，稱集慶、金陵、建康雜然不一。）
這邊還在商議要攻集慶，那邊元兵已經攻來。青軍（元朝政府花錢招募的傭兵，制服青色，官方稱之為「義軍」）元帥陳埜先跟大將康茂才水路分道兵臨太平城下，朱元璋自己督戰守城，事先命徐達到城外預設埋伏，內外夾擊之下，陳埜先兵敗被俘。朱元璋釋放他，要他寫信招降青軍，隔天青軍通通改為紅色旗幟及頭巾，然後跟陳埜先講好合攻集慶城後，讓他率領軍隊回去。其實，陳埜先並不是誠心歸附，而朱元璋也明白。
宋軍如期攻打集慶，陳埜先跟元兵統帥福壽聯合，在秦淮河畔夾擊宋軍，宋軍大敗，郭天敘跟張天祐都戰死──朱元璋借刀殺人成功。而陳埜先則在追擊宋軍時，被恨他的反元鄉民偷襲刺死，朱元璋率軍回到太平，將士家屬則送回和州。
隔年春天，朱元璋水陸並進再攻集慶，陳埜先的兒子陳兆先率領陳埜先舊部屯駐城外，才一接戰就敗陣投降，朱元璋釋放陳兆先，並且選擇陳兆先的部下五百人納入麾下。那五百人都惶懼不安，朱元璋下令，當天夜裡由他們負責自己的宿衛，環繞主帥帳篷四周的帳篷裡，都是陳兆先的部下，原本的近衛都睡到外圍帳篷。主帥帳篷裡只有馮國用一人相伴，朱元璋本人卸下戰甲，安寢直到天明，於是所有人都不再惶懼了。 （相關報導： 明朝皇帝有夠狂！不是忙著當道士、做木匠…就是長達30年不上朝，為何國家還能正常運作？ ｜ 更多文章 ）
集慶城順利攻破，元兵統帥福壽戰死，陳埜先手下大將康茂才率眾來歸。朱元璋將集慶改名應天府，取「上應天命」的意思，並召集地方父老講話，說：「元朝失政，生民塗炭，我來是為民除害。你們各守原本職業，不必擔心。賢能君子願意相隨立功者，我會禮遇重用；原本不好的法令，一律廢除。」
