建安十四年，荆州牧、镇南将军张武在马超作乱凉州之时，突然偷袭武关，威胁长安。长安守将夏侯渊不敢再出兵攻打马超，亲自率兵到商洛抵挡张武，同时令人急报曹操。
曹操率二十万大军前来支援汉中，而荆州军主力突然向江东发起进攻，以甘宁为灭吴大都督，庞统、诸葛亮参赞军机，关羽、张飞、赵云、丁奉、文聘、刘磐等大将随军出击。
江东大都督程普与副都督鲁肃率军迎战，双方水军战于庐江郡附近的水面上，而荆州军的步兵趁机围困了庐江的郡治皖城。
经过五天激烈的战斗，江东水军死伤惨重，终于抵挡不住了。
鲁肃对程普说道：“荆州水军实力强大，铁锁连船难以应对，曹操大军又被牵制在关中，无法前来支援。为今之计，庐江是很难守住了，不如退往秣陵，依托秣陵城抵挡荆州军。”
程普虽然不甘心放弃庐江，但事已至此，再打下去江东水军就要全军覆灭了，只好听从鲁肃的建议，撤到秣陵进行防守。
但皖城那边还有一万士兵和吕范、朱恒呢，不能把他俩给扔了。于是程普派吕蒙带一支船队去接应防守皖城的吕范和朱恒撤退，等皖城边撤走后，他再率军撤退。
庐江离孙权的老窝吴郡太远，不方便救援。如果柴桑和豫章郡还在江东手里的话，程普还有信心能依托柴桑城坚持上一年左右，说不定还能等来曹操的支援。但现在江东水军不是荆州水军的对手，皖城又在大江以北，很难与水军相呼应。
甘宁也知道这一战是非常关键的一战，关系到整个灭吴计划的全局，因此也是以求稳为主，绝不贪功冒进。
鲁肃好几次设计要将荆州水军的铁锁连船引出来围攻，但都未得逞，荆州水军一直保持着阵型，不但各个铁锁连船之间互相配合呼应，还有许多样式新奇的中小型战船围绕着铁锁连船作战。
这些新式战船速度快，转向灵活，往往是贴近江东水军的战船一阵弓弩齐射后，转头就跑。
吕蒙率军走皖水来到皖城之外，与守城的吕范取得联系后，接应吕范突围而出。在突围的过程中被关羽、张飞、赵云率军截杀，一万士兵只逃出来三千余人，其余的不是被杀死就是投降了。
见吕蒙接应吕范和朱恒突围而出，程普下令全军撤退。
关羽遂率军占据了庐江郡的郡治皖城，又令张飞、赵云领兵讨平其余州县。
庞统见庐江郡已基本平定，便来到水军见到甘宁，一边给柴桑的诸葛亮发送战报，一边劝说甘宁率军追击江东水军，不要给他们修整的机会。
荆州水军与江东水军激战了五天，虽然也有不少损伤，士兵们也很疲惫，但荆州军的后勤体系完备，士兵们可以在追击的路上，在铁锁连船上休息。
因此，甘宁令冯习率五千水军和伤兵病号暂时留守在庐江，他率五万水军和文聘、丁奉追击江东水军。