劉裕滅桓氏后，要取消司馬氏皇帝的名號，還必須自己先取得更高的威望。因此，劉裕為滅晉而進行北伐。同時也為消滅國內(nèi)割據(jù)勢力而進行統(tǒng)一戰(zhàn)爭。晉朝政權(quán)。后來積累戰(zhàn)功，打下帝業(yè)基礎，和晉元帝依靠大族推戴的情形完全不同。
409年，劉裕攻南燕。410年，破南燕都城廣固(山東益都縣)，滅南燕，收復青州。盧循乘劉裕北伐，率軍向建康進攻，劉裕親率精兵回建康，擊敗盧循。411年，收復廣州。412年，攻破江陵城，殺割據(jù)者劉毅。413年，劉裕遣將軍朱齡石收復成都，殺割據(jù)者譙縱。415年，劉裕遣將軍王鎮(zhèn)惡攻克襄陽，驅(qū)逐割據(jù)者司馬休之。東晉境內(nèi)在劉裕勢力下全部統(tǒng)一了。416年，劉裕率將軍王鎮(zhèn)惡、檀道濟、沈田子等分五路，水陸并進，攻后秦國，沿途收復滑臺(河南滑縣)、許昌、洛陽等重鎮(zhèn)。417年，劉裕軍攻破長安，滅后秦國。劉裕出關回彭城，留守軍內(nèi)亂，418年，關中被赫連勃勃奪去。這次北伐，勝利是巨大的，關中雖失去，自潼關東至青州，卻成為宋朝的疆土。后來宋魏間戰(zhàn)爭，多在這些土地上進行，使長江流域得到較為長期的安靜。東晉初，設立僑郡縣，憑空增添官職，用以安置流亡士族。413年，劉裕實行土斷法，令北方流亡來的士民，就所居地作為土著，與南方土著同等待遇。許多僑郡縣從此省去，有利于行政統(tǒng)一和節(jié)省開支。