五日后，江陵大营果然传来消息，说元帅关羽因伤重不治，死于江陵大营中。朝野一时为之惊愕，关羽死时年六十五，虽非壮年，但仍足称健康，自立国以来他屡立奇功，在龙首原、平城、临淄等重要会战中皆举足轻重，而今年来，他接管南府大军，安抚南阳政局，使对吴战事转危为安，转攻为守，故而显名朝野，声望极盛。平日他又宽待将士，仁爱百姓，无论身份高低，皆一以贯之，因此深得众心。得知其死，三军将士莫不悲惋，荆州百姓也为之嗟伤。此后关羽灵柩沿汉水溯流而上，穿着白衣戴着白帽的人站满了两岸，祭奠哭拜的人百里不绝。朝廷为之追赠万户，谥号武穆。
关羽出事前一段时间，频频做噩梦，曾经梦到猪在啮咬自己的脚，自知不祥，于是对左右说：“我今年衰矣，恐怕将不得复还！”最后果然在江陵之战时中箭致死，此时正值荆州大局已定，大军即将席卷三吴之际，不料却遭此意外，真是殊为可叹也。
但悲伤之余，战争还是要继续下去的。如今的形势是，汉军已夺下江陵、安陆、夷道等重镇，荆南、巴蜀、江北三处领土连成一片，长江上游至云梦泽南北口已被全数占领，可谓是占尽天时地利。而按照原本陈冲的战略，汉军只需再夺下陆逊目前最后占据的夏口与寻阳两城，便可乘势而下，直抵建业。在这种优势下，不论关羽的生死如何，汉军都不会停下进攻的脚步。
只是关羽之后，由谁来担任全军的主帅呢？朝野上下议论纷纷，按功劳、资历，怎么都该轮到车骑将军张飞头上，要么就是作为副将的张既或庞统。但也有人议论说，张飞、魏延等人性情急躁，不善容人，庞士元资历又太浅，压不住众人，灭吴不是难事，就怕诸将会因为争功而闹出内讧，不如让丞相居中调节，自然就没有变数了。这话说得极有道理，很快，朝中就有人提议，让丞相陈冲兼任元帅一职，完成剩下的灭吴大业。
陈冲闻言拒绝了，一是他身体老迈，不适合再上战场，二是他也深知翼德想独领大军，这恐怕也是他最后的机会了，所以他简单商议之后，很快就颁布了改任车骑将军张飞为三军统帅的诏书，令他摧破陆逊，再与东府军汇合，最后一举荡平三吴，献俘雒阳。而私下里，陈冲也给张飞寄去手书，写道：“云长已去，世上仅你我兄弟二人，正当成此千秋功业，以慰至亲在天之灵。”
在得到陈冲手书后，张飞又悲又喜，他整理情绪，很快便开始行动。在三月中旬，除留下三万军士戍守后勤外，张飞亲率领西、南两府二十七师十五万大军继续东进。而后兵分两路，以南府进攻夏口，西府进攻柴桑。
此时恰逢雨季，大雨倾盆，江水暴涨，张飞带领一干属将幕僚临岸观察陆逊所在的柴桑敌情。有幕僚向张飞建策说，江水增益，不妨效仿水攻之法，只要能水决入城，城自然就破了。
张飞于是就命数万人堆堰，昼夜不息。毕竟是春夏之交，土壤松弛，堆填的堰坝多有渗水。连堆了三次，都没有成功。张飞大怒，命将负土者及土囊一并塞入决口，庞统试图向张飞进言，结果被张飞以辜负关羽为由怒斥。其余人则更加恐惧，不敢多言，唯有继续筑堰罢了。
四月，堰坝建成后，水势渐涨，半日之内，就涨到几乎与柴桑城齐平了，城内被淹成一片泽国，人们都攀附在箭楼或者屋顶上。另外城里还有土山一座，天黑后，陆逊和亲信幕僚就在土山上露宿。人们都知道城破在即，也不再抵抗，而陆逊更是绝望，他自知绝无生理，在张飞包围柴桑之前，就把所有船只水师都送到下游去了。
而后汉军乘船而来，占领了柴桑城内的所有城墙，而后掘堰放水，在有城上汉军照应的前提下，汉军兵不血刃地打开城门，占据了整座城池，俘虏吴兵近万人，平民两万人。张飞收到消息后，当即下令，将这些俘虏都绑了，又在城南处挖了一处数百丈宽的大坑，而后以祭奠关羽为理由，把这些俘虏一起赶进去，尽数活埋，其中不仅包括大部分的底层军士和百姓，即使是已经抓捕投降的吴军大都督陆逊，此刻也被埋在了三尺黄土之下。
张飞的这次行为可谓是骇人听闻，汉军素来以军纪严明、仁义之师着称，自建军以来，从未发生过屠城、坑杀等暴行。张飞以元帅之尊下令后，当即在军中引起一片哗然，诸如庞统、姜维、李恢等将领都再三劝谏，但到底被张飞压了下去。而上次几年前经历了建业惨败后，汉军普遍对吴人恨之入骨，虽然引起了不小的非议，但终究还是成功执行了下去。自高祖设立柴桑城以来，四百年间，柴桑一直是豫章郡精华之所在，谁料短短几日之内就已沦为一片白地，城内城外不复有鸡犬之声。夏口城听闻柴桑被破之惨状后，也为之胆寒，当即向汉军投降。
但捷报传回到雒阳后，丞相陈冲几乎不敢置信，他反复确认消息的真假，而后深感沮丧。他理解翼德的想法，也理解翼德的情绪，但这种做法是自己万万不能接受的，他相信也是云长所不能接受的。这么多年征战下来，比江陵之战更惨烈的战事，众人也不是没有经历过，诸如渤海之战，火石埠之战，平城之战等等，死伤的将士不可计数，可却从来没有泄愤的屠城坑杀之举，所为者何？无非就是外欲造福苍生百姓，内不负自己良知而已。不料到了最后即将功成的时日，竟然晚节不保，陈冲为之坐立难安，纠结不已。
而按照陈冲在建军时就设立的军法，一旦有将领屠城坑杀，都当解除军职，废除爵位，而眼下该如何处置呢？
说起来，当年玄德率军围攻临淄，翼德就因战事不顺，继而纵军杀俘。在他打算坑杀临淄军民之际，还是云长出面阻止，这才没有酿成活埋的惨剧。而后玄德强令翼德在北戍守，临死也不愿相见，就是想给翼德一个教训，不料这么多年下来，他还是没有改变。
陈冲思虑再三，以为即使不按军法处置，也不该再由张飞担任前军统帅一职。否则继续纵容翼德统军，到了建业之后，恐怕又是一阵烧杀抢掠，不仅大失江南民心，军纪军法也为之败坏干净了。
这是一个艰难的决定，陈冲深知这个决定会对张飞带来多大的伤害，但这不仅是为江南百姓负责，也是为了一个太平祥和的未来负责。三十多年下来，已经有太多的人死不瞑目，长江也饱餐了太多人的鲜血。他不想这条江水以后变成一条鲜血的鸿沟，让人们继续奋戈相杀，故而陈冲必须做出这个决定。可等翼德看到命令的时候，会怎么想自己呢？薄情寡义？虚伪好名？陈冲不愿意去想象，但也知道这是无法避免的。
等陈冲在朝会上提出此事后，朝臣却皆言不可。原因有二：一是朝廷换帅不久，如今又再次换帅，恐怕不利于军心，对战事也会生出一二变数；二是帅才难得，如今既然解除张飞的职务，那么新的统帅又当由谁来担任呢？莫非还是让丞相亲赴前线吗？按照魏讽的意思，不妨出文训诫张飞一番即可，没有必要再度换帅。
此话听得陈冲大为反感，这不就是光武皇帝对吴汉屠蜀的态度吗？自己当年在玄德面前大肆抨击光武虚伪，莫非自己还要重蹈光武的旧路？故而陈冲当即否决了这一建言，而后力排众议，主张换下张飞后，由淮南都督诸葛亮来负责接下来的灭吴战事。这令百官不由得暗中议论，诸葛亮不能说没有才能，但是论资历与张飞无法相比。而由他一人统帅三军，麾下兵马之众可达二十余万，当真能够服众吗？但陈冲一力坚持，认为诸葛亮文武兼备，足可以肩负此任，终究还是通过这项诏令。
就这样，到了四月下旬，诸葛亮率领东府军至寻阳，与张飞大军汇合后，张飞解职返回雒阳，而诸葛亮正式接管了灭吴大军的统帅大权。诸葛亮时年四十六岁，虽然已不算年轻，但能够掌控如此规模的大军，还是不免令各部将士生疑。但诸葛亮并未申辩，而是整军半月后，他率军东向，进逼至濡须口一带。
而在建业南岸，最后的东吴水师正汇聚在牛渚矶。得益于汉军两次换帅，使得孙权获得了充足的时间，将荆州、淮南、扬州、交州四州的船只都调集此处，舳舻成千，连岸近三十余里，而吴人还剩下最后的十一万兵力，此时也都聚集在岸边，踌躇不决。他们此刻的统帅，正是从北边过来的降将，如今的淮南都督司马懿。
两军所要交战的江面，正是上一次汉军全军覆灭的战场。