为了拉拢朝臣镇将，桓玄对刘裕分外看重，提拔他为徐兖二州刺史，并在朝会后盛大的酒会上向他亲自敬酒。

    桓玄的皇后刘氏有鉴人之明，对老公说：“刘裕龙行虎步，视瞻不凡，恐终不为人下，不如早除之！”

    桓玄不从，表示：“我正要平定中原，只有刘裕这样的人才英武可用。等到关、洛平定，我再想除他的办法。”

    刘裕还京口，正所谓放虎归山。他马上与何无忌等人密谋兴复晋室，讨伐桓玄。同时参与密谋的，还有竟陵太守刘迈的弟弟刘毅。主意已定，刘裕遣人入京联系，又招兵买马，以刘穆之为主簿。公元404年春，何无忌诈称诏使，率人骗开京口城门，直冲府门，立斩桓修，占领了京口重城。

    刘毅之兄刘迈怯懦，在京城接到刘裕等人的密信后，惊吓过度，手持密信向桓玄“自首”。桓玄大惊，立封刘迈为重安候，斩杀与刘裕有联系的王元德、童厚之等人。第二天，桓玄想想不妥，又杀掉了刘迈。刘迈这个侯爷当得冤枉，不过十二个时辰。

    眼见天下乱起，桓玄只得硬着头皮加以应付。他以堂兄桓谦为征讨都督，以姐夫殷仲文代领桓修军职，派手下悍将吴甫之、皇甫敷率兵抵挡刘裕。桓谦等人要求马上齐集大军先发制人，桓玄以持重为由，不从。

    眼见桓玄眉头紧锁，忧色满面，其左右就劝解：“刘裕乌合之众，势必无成，陛下何必如此忧虑。”

    桓玄此时倒有见地：“刘裕足为一世之雄，刘毅家无余储，樗蒲（一种博戏）一掷百万，何无忌酷似其舅（刘牢之）。此三人共举大事，何谓无成！”

    果然桓玄的乌鸦嘴很灵。皇甫敷、吴甫之二将与刘裕苦战江乘（今江苏句容），均被斩首，全军覆没。而此时的刘裕，其实手下总共只有将士不满两千人。

    闻听二将死讯，桓玄惊惧。他命桓谦、卞范之等人合军二万，坚守覆舟山（今南京太平门附近）。不进退守，桓玄败象已定。

    刘裕军早晨进食一饱，悉弃余粮，以示必死之心。进至覆舟山下，刘裕先派羸弱之兵多带旗帜登山，以为疑兵吓唬敌军。接着，又把军队分成无数小队，数道并进，布满山谷。桓玄得报，以为刘裕“军士四塞，人多无数”。

    桓谦所统军士，大多是北府兵旧人，以前大多受过刘裕指挥。进攻开始，刘裕、刘毅身先士卒，手下将士皆死战前冲，无不以一当百，呼声震天动地。桓谦军队一时大溃，许多先前的北府兵也不战而降。

    桓玄方面，在派遣桓谦等人出战的同时已经做好逃跑的准备了，让殷仲文在码头城附近预留数艘大舟。接到桓谦败讯，桓玄率兵数千人，带着儿子桓升和侄子桓浚两个小孩，以赴战为名，从南掖门往外逃奔。

    途中，桓玄昔日的下属胡藩扣马进谏，劝他率余军与刘裕决战。桓玄以手指天（大意是“天亡我也”），鞭马而走，跑至码头，坐上船就跑。由于逃亡仓猝，众人一天都没进食。

    夜间，左右进献粗米饭一碗，桓玄惊惧交加，竟不能下咽。其子桓升才六岁，“抱其胸而抚之”，安慰这位悲伤的“父皇”。桓玄“悲不自胜”。

    刘裕入据建康，焚桓温神主，尽诛桓氏未及逃跑的宗族。

    桓玄逃至寻阳，带上废帝晋安帝等人，“迁都”江陵。一月之间，倒也威势复振，有众二万，“楼船器械甚盛”。至此，如果总结失败教训，养兵休整，桓玄还有翻盘的可能。但他却埋怨诸将无能，轻怒妄杀，使属下之人纷纷离怨。

    桓玄接连接到败报。桓振（桓玄堂侄）、郭铨、何澹之、郭旭等人数道皆败归。不忿之下，桓玄自率战舰二百艘，以苻宏、羊僧寿为先锋，前往峥嵘洲（今湖北鄂州江上）与刘裕军决战。

    当时，桓玄兵多船坚，刘裕兵仅有