桓玄篡位之后，北府兵将领刘裕率领兵将向建康发动进攻。桓玄抵挡不住，只得带着晋安帝逃跑。后来，桓玄被杀，刘裕迎接安帝复位。其实，晋安帝只是刘裕的傀儡，东晋的实权完全掌握在刘裕手里。
刘裕出身低微，小时候家里十分贫穷，这使得刘裕从小就开始肩负起家庭的重担，从事繁重的体力劳动。刘裕长大之后，投身行伍，并多次立下战功，特别是迎取晋安帝复位更是让他名利双收，不仅掌握了东晋王朝的实权，还被奉为东晋的英雄。可是，这对打算篡夺东晋政权的他来说还远远不够。这是因为他出身低微，得不到士族大家的支持。为了扩大自己的势力，提高自己的威望，为篡夺帝位赢得政治资本，他决定出师北伐。
公元409年，刘裕率领大军，从建康出发，正式开始北伐。他北伐的第一个目标是南燕。南燕的国君慕容超是一个昏君。他虽然很聪明，但完全没有把心思放在治理国家上，脑子里想的只是如何向百姓征收赋税，去哪里打猎一类的事情。当刘裕率领大军向南燕逼进的时候，慕容超顿时方寸大乱，不知道该如何应对。他手下的大臣向他提出三个计策：一是不做防范，当刘裕率领大军来攻城的时候，派兵出城与刘裕大军决一死战，这是下策；二是坚壁清野，让刘裕大军得不到补给，在对峙一段时间后，刘裕一定会退兵，这是中策；三是躲避刘裕大军的锋芒，尽量拖延时间，再派精锐部队将刘裕的粮道截断，然后前后夹击，这是上策。慕容超对打仗一窍不通，最后选择了下策，很快就被刘裕打得一败涂地。
慕容超眼看亡国在即，立即派人向邻国后秦求救。后秦国主姚兴担心刘裕消灭南燕后会向后秦用兵，便答应援助前燕。他派使者到晋军大营对刘裕说，后秦已经在洛阳布置了十万大军，如果刘裕要攻打南燕，后秦一定会援助南燕。
刘裕听后轻蔑地对后秦的使者说：“你回去对姚兴说，我这次本来只打算消灭南燕，并没想消灭你们，但是如果你们自寻死路，那我也就把你们一并收拾了，免得以后再劳师远征。”
后秦的使者离开后，有人担心刘裕的话会激怒姚兴，导致后秦发兵。刘裕却非常镇定地说：“正所谓‘兵贵神速’，如果后秦真的出兵，那么他们就一定会悄悄地出兵，根本没有必要提前通知我们。现在他们这样做，无非是虚张声势。如今他们正和夏国交战，哪里顾得上别人呢？”
刘裕说得没错，当时后秦正在与夏国打仗，根本就无暇顾及南燕。此后不久，刘裕就将孤立无援的南燕给灭了。
几年之后，刘裕再次领兵北伐，这次他的目标是后秦。他把朝政交给尚书左仆射刘穆之管理，自己率领水军沿着黄河北上，前锋檀道济和王镇恶率领步兵向洛阳方向进攻。
晋军前锋檀道济和王镇恶非常顺利地就将洛阳攻下。刘裕原本打算命令前锋军在攻下洛阳后先不要冒进，等到后面的主力部队到达后再深入到后秦境内。可是，檀道济和王镇恶看到后秦不断爆发内乱，潼关守军薄弱后，便兵分两路攻打潼关。由于受到后秦部队顽强阻击，檀道济和王镇恶与后秦部队形成了相持之势。
公元417年，刘裕亲率大军北上，后秦国主姚泓知道抵挡不住刘裕大军，便向北魏皇帝拓跋嗣求援。当时北魏的势力很强大，拓跋嗣决定帮助后秦一起对付刘裕，他在黄河北岸集结了十万大军，威胁刘裕的部队。
刘裕命令水军乘船沿着黄河前进。没想到，北魏派出几千名骑兵在岸上跟随，并不停地骚扰晋军。当时的风浪很大，很多晋军的战船被冲到黄河北岸，士兵落入水中。北魏的骑兵便乘机杀死晋军。当晋军上岸去追时，北魏的骑兵就不战而逃。就这样，晋军将士们被搞得晕头转向，不知如何是好。
刘裕非常气愤，想要狠狠地打击一下北魏骑兵的嚣张气焰。他思索良久，终于想出了一个好主意。刘裕把一名将军叫到身边，对他耳语了几句。过了不久，那名将军就带领一百辆兵车和七百名士登上黄河北岸，沿着河岸摆出一个怪阵。这个阵是半圆形的，中间鼓出来，两头紧靠河岸，有两名士兵埋伏在阵中，一根白色的羽毛高高地插在当中的一辆兵车上。刘裕根据这个阵势与一轮新月相似的特点，把它称作“却月阵”。
北魏的骑兵从来也没有看到过这种怪阵，所以都不敢轻举妄动。就在这时，有人将位于阵中间的兵车上的白色羽毛举了起来，随后两千名士兵带着一百张大弓登上了兵车。北魏骑兵觉得这种阵势是在故弄玄虚，所以就一齐向晋军阵地冲了过来。晋军一百辆兵车上的士兵拉弓射箭，将冲在最前面的北魏骑兵射死。但是，北魏的骑兵实在太多，这一百张弓根本就射不过来。就在北魏骑兵如同潮水一般涌向晋军阵地的时候，晋军早就在却月阵后面布置好了长约三四尺、极其锋利的长矛，装在大弓上。北魏军只顾着向前冲，晋军士兵拿起大铁锤，奋力向大弓敲去，大弓上的长矛便如流星一般向北魏的骑兵飞去，一下子就将好几千北魏骑兵射死。冲在后面的北魏骑兵看到这个阵如此厉害，全都被吓破了胆，奔向四处逃命。晋军穷追猛打，很多北魏骑兵被杀死。
刘裕利用却月阵给予北魏骑兵沉重打击，黄河西进的通道被打通，刘裕的水军可以非常顺利地向西前进了。此后，檀道济和王镇恶带领步兵与刘裕在潼关会合，晋军声势大阵，很快就攻下了长安，将后秦消灭。
公元419年，晋安帝去世，晋恭帝即位。刘裕认为称帝的时机已经成熟，便逼迫晋恭帝把皇位让给自己。公元420年，刘裕称帝，改国号为宋，东晋王朝正式宣告灭亡。