铲除异己
刘裕于义熙七年(411年)班师回到建康,受太尉、中书监职位。次年(412年)四月,刘裕以刘毅为荆州刺史。刘毅自以能力不亚于刘裕,甚不服在刘裕以下,他亦得朝中有名望人士归心交结,故此迁镇荆州时就将大部分豫州府属及江州万多人的军队都带去荆州,到任后又重新调度荆州郡县首长,更以患病为由请堂弟刘藩去做他副手。刘裕知其有异心,于是假意答允其请求,但就乘刘藩自兖州治所广陵入朝时就指称他与谢混图谋不轨,将二人赐死,接着就率军自建康出发讨伐刘毅。刘裕派王镇恶为前锋,沿路声言是刘藩前来去骗倒各戍和民众,直至江陵城外五六里时才被发现,但已赶及在刘毅关闭城门前率兵入城,并在城内作战。城中民众知刘裕在率军前来都十分惊恐,刘毅不敌王镇恶,唯有出逃,并于牛牧寺自杀。刘裕随后来到江陵,诛杀了刘毅亲信郗僧施,消灭了刘毅势力。
刘裕征刘毅时以诸葛长民守留府事,但诸葛长民见刘毅败死,自己亦深感不安,更意图作乱,刘裕回建康时故意拖慢进度,让等待迎接他的诸葛长民及其他官员接连几日都等不到刘裕。刘裕却乘轻舟快快进城,进入了官邸东府。诸葛长民知道刘裕突然回来了,于是拜访,刘裕暗中命壮士丁旿埋伏,故意和诸葛长民闲话家常,乘诸葛长民警觉性下降时命丁旿将其杀死,接着又诛杀了长民弟诸葛黎民等人。刘裕接着就加镇西将军、豫州刺史,接掌诸葛长民的原职。清除京口武将中的异己势力之后,刘裕在412年底发动晋灭谯蜀之战,隔年(413年)西征主将朱龄石成功灭谯蜀,刘裕加授羽葆、鼓吹及班剑二十人。
义熙八年(412年)征讨刘毅时,刘裕以晋宗室司马休之接任荆州刺史。司马休之颇得当地人心,而刘裕就怀疑他有异心;在义熙十年(414年),其子司马文思又在建康招集轻侠,令刘裕十分厌恶,司马文思终因被揭发杀害官吏而被捕,刘裕诛杀其党众而免文思死,反送他到司马休之那里,要他亲自教诲他,实质就是要司马休之将其处死。然而,司马休之并没有杀文思,只是上表废掉文思的谯王爵位,并写信向刘裕道歉。这举动令刘裕对其大感不满,立刻就命江州刺史孟怀玉戒备。
义熙十一年(415年),刘裕收杀司马休之在建康的次子司马文宝及侄儿司马文祖,并出兵讨伐司马休之,自加黄钺,领荆州刺史。司马休之则上表刘裕罪状,派兵抵抗;当时雍州刺史鲁宗之自感不被刘裕所容,故与司马休之联结。刘裕前锋徐逵之初战败于鲁轨,众将除蒯恩外皆战死,刘裕大怒。然而当他到时,鲁轨及司马文思率军在悬岸峭壁上列阵,令刘裕难以登岸,胡藩当时就冒险攀登,司马文思等竟不能抵挡,刘裕就乘对方后撤的机会登岸进攻,终击溃司马休之的军队,攻下江陵,司马休之及鲁宗之北投后秦。
自桓玄作乱以来,南方各大割据势力,全部灭亡,南方归为一统。东晋境内,全由刘裕势力统治了。
刘裕在消灭司马休之后获剑履上殿、入朝不趋、赞拜不名的崇礼,次年(416年)正月更获加领平北将军、兖州刺史、都督南秦州诸军事,至此其一人已经都督徐州、南徐、豫、南豫、兖、南兖、青、冀、幽、并、司、郢、荆、江、湘、雍、梁、益、宁、交、广、南秦共二十二州。
北伐关中
义熙十二年(416年)一月,后秦主姚兴死,姚泓继位,内部叛乱送起,政权不稳。刘裕认为这是灭亡后秦的良机。八月,刘裕以刘穆之任尚书左仆射,内总朝政,外供军粮,自己率大军分四路北伐。
九月,刘裕扺达彭城。龙骧将军王镇恶、冠军将军檀道济领兵由淮、淝转向许、洛,后秦诸屯守皆望风降附,晋军进展神速。十月,王镇恶军占领洛阳。
义熙十三年(417年)次正月,刘裕留其子刘义隆镇守彭城,自率大军北上。此时北魏派十万重兵驻守河北,并以游骑骚扰晋军。刘裕在行军中,虽常设奇阵或用大弩强槊击败魏军,但进军速度缓慢。王镇恶军由洛阳进抵潼关后,为后秦主力守险以阻,檀道济军的粮道也为秦将姚绍截断。晋军一时处于危境。王、檀向刘裕求援,而刘裕却为北魏军牵制,自顾不暇。幸得当地百姓的帮助,潼关晋军才转危为安。七月,刘裕摆脱魏军,进至陕城;前锋沈田子攻入武关,进屯青泥。八月,刘裕至潼关,与诸部会合。
秦主姚泓为缓解两面受敌的危局,谋划先消灭沈田子军,再抵御刘裕,于是率步骑数万急趋青泥。沈田子军本为疑军,不过千余人,但各自为战,骁勇异常,数次出击竟使姚泓败还长安。此时,王镇恶突破潼关防线,率师直进,一举攻陷长安,姚泓率群臣投降,后秦灭亡。