淝水之战的序曲：谢玄率5万北府兵，强势击败前秦10万大军
北府兵是东晋南朝最强军队。公元377年，这支强军由陈郡谢氏的领军人物谢安、谢玄等人，在京口一带组建，随即成为东晋抵抗北朝进攻的柱石。
一、前秦第一次南侵战争
要跻身强军之列，辉煌的战绩是硬标准。与历史上其他强军相比，北府军的战绩自然也非常过硬。谢氏北府军诞生之初，东晋的军事形势是相当严峻的。此前，后赵石勒攻逼山东淮北和河南，四川又被成汉所占，东晋的防线退至淮南、江北。其间虽有祖逖、庾亮、桓温等北伐，但面临北方新兴民族一波又一波强大的攻势，北伐的成果都没有最终巩固下来。东晋的国防压力始终严峻异常，特别是前秦统一北方后，更是到了前所未有的危机时刻。然而越是在这种时刻，越能显出北府军这支传奇军队的巨大威力和光辉。
公元378年，前秦天王苻坚先后攻灭了前燕、前凉、代国、姚羌等诸胡族势力，逐步夺取了东晋汉中、四川等地，形成西、北夹击东晋的战略态势。屡战屡胜的苻坚不听王猛死前的劝告，分兵数路从襄阳、彭城两个方向大举进攻东晋。
是为第一次南侵战争。
襄阳方面，秦将苻丕率7万大军进攻东晋的襄阳，加上诸路配合作战的部队，兵力达到17万人。襄阳是长江以北的重镇，守将朱序属于荆州刺史桓冲系统，但桓冲畏惧秦军势大，虽有主力7万，却不敢离开大本营上明（今湖北松滋）去救援襄阳。
朱序指挥部队坚守城池行有余力，甚至有时还能出城挑战。苻丕认为前秦军十倍于襄阳晋军，因此围而不战，企图困死襄阳。直到次年，在苻坚严令催逼之下才发力进攻。在巨大的压力之下，城中出现了叛徒，襄阳督护李伯护招诱秦军入城，襄阳因而沦陷，朱序本人被生俘送到长安，苻坚赞赏朱序为主尽忠的气节，封他为度支尚书。襄阳丢失之后，东晋在长江中游外围再没有稳固的战役支点，桓冲只好沿长江设防。
二、争夺彭城
在襄阳大战的同时，前秦调10万大军展开了对淮北方向的进攻，这里正是北府军的防区。战斗首先在彭城打响。前秦兖州刺史彭超率军5万围攻彭城，彭城守将戴禄手中仅有兵数千人。
彭城是淮北第一大重镇，是两淮地区的捍蔽，戴禄极力固守。 前秦同时分别进攻下邳、淮阴、盱眙，铁蹄踏遍淮北和淮南。
前秦的战略非常强势，以优势兵力在南北纵线上同时进攻淮北和淮南，让晋军无所适从，首尾不能相顾。
事实也是如此，眼见淮北淮南同时受敌，前秦军在每个方向上都是绝对优势的兵力，要想同时救援淮南淮北，对兵力寡弱的东晋来说是不可能的任务。两下相权，东晋作出了抉择，先救淮南。晋将毛武生率军5万出镇扬州，加强了北府军方向的兵力，与前秦军相持于盱眙以南的淮南地区。
同时，谢玄紧急招募徐兖青三州流民，扩充北府军兵力，全军迅速增至5万余人。
远在淮北敌后的彭城非常艰难，淮南的救兵过不来，戴禄又不敢弃城。前秦彭超志在必得，反而不急于进攻，企图逼迫戴禄不战而降。
这时，奇变出现了。一支数万人的军队，突然进至泗口（今江苏淮阴西南）附近，来势汹汹，意图救援彭城。此时南边盱眙的攻守正酣，盱眙是淮南要津，对江南来说，保盱眙更重于保彭城，晋军何以突然舍盱眙而不顾，难道盱眙方向有变？
秦将彭超有点丈二和尚摸不着头，但是不管晋军耍什么花招，彭城之围坚决不能撤。当务之急，是摸清晋军的虚实，他迅速派出了斥候探听清况，结果报回来，是谢玄的北府军！
彭超久在山东镇守，也听说过北府军的名声，但两军还未交手，不知究竟战斗力怎么样。彭超加紧彭城外围的防务，决心在彭城打一个歼灭战，把城内守军和谢玄的北府军统统吃掉。
谢玄也摆出一副不救彭城不撤的拼死劲头，他派小将田泓下水潜游，偷偷进城告知戴禄援兵已到，不料田泓被围城的秦军截住，彭超威逼利诱田泓，让他在城下告诉戴禄晋军援军已被打退，田泓却在城下大喊，援兵已经来到泗口，城中一定要固守。彭超一怒之下杀了田泓。
此时又一个消息传来，谢玄已派北府大将何谦率兵偷袭留城（今江苏沛县附近）。留城是彭超大军的后勤补给中心，所有粮秣辎重都在那里，留城一旦失守，自己将退无所据，彭超不敢怠慢，立即率军驰援留城。
事实上，这又是谢玄的诡计。
彭超赶到留城后扑了个空，何谦所部虚幌一枪，早已杀奔彭城。城下前秦兵力不多，晋军内外夹击成功破围，稍后又放弃彭城，大军迅速南返固守淮南。
这一系列战术动作干净利落，把前秦军打的晕头转向。从全局来看，谢玄的真正目的只在于救出彭城的有生力量，在淮南受敌的情况下，固守彭城事实上已没有意义。谢玄成功进行了战役欺骗，可以说在两淮遍地狼烟中增添了一抹亮色。
三、北府兵以少胜多
彭超眼睁睁看着晋军破围南返，一脸尴尬地占领了彭城这座空城。此时秦将俱难攻下了下邳，淮北全境沦陷。彭、俱两军会合，与襄阳方向赶来的援军一同南下，合力进攻淮南重镇盱眙，盱眙顶不住压力也被攻下。仗打到这个份上，再像彭城之战那样玩虚招已无条件，秦晋两军只能硬碰硬地打了。
前秦军乘胜进围三阿（在今扬州西北），谢玄率北府兵自扬州出击救三阿，两军遭遇，北府兵大破俱难的骑兵，前秦骑将都颜当场阵亡。俱难、彭超再整大军来战，又被北府兵击败，只好退守盱眙。谢玄一鼓作气，与三阿守军合兵一处猛攻盱眙，再次大败秦军。秦军退守淮阴，北府军穷追不舍，又打下淮阴，阵斩秦军大将邵保，秦军接连败退，一直逃回彭城才勉强稳住阵脚。淮南大战遂告结束。
淮南的胜利，有力遏制了前秦南侵的势头，北府军以5万余兵力逆推秦军10余万人，表现堪称惊艳。前秦在襄阳和淮南一胜一败，显然灭亡东晋的条件还不成熟，于是没有贸然再次发动大规模进攻，直到382年，苻坚打理了内部一系列矛盾后，方始再次调集大兵进攻东晋。