苻坚派了一百多万军队进攻的消息传到建康后，东晋的大小官员个个吓得面无人色。但以从容为名的谢安还是有他的主意。除了西线有拥兵十万的桓冲把守夏口不用担心外，对于迎战苻坚的主力东线，谢安派出谢石为征讨大都督，谢玄为前锋，又让儿子谢琰和桓冲的亲戚桓尹为副将，率领八万部队迎战前秦军。其中就有谢玄的看家宝贝，五千北府兵。八万军队和苻融的二十五万先锋在寿阳对峙。不久，谢安又派遣水军将领胡彬率领五千水军前来增援，在寿阳双方兵力对比为二十五比八点五。
一切安排妥当后，谢安又开始他擅长的清谈，不再管战场形势。当谢玄跑来问有没有什么安排时，谢安推脱句“已经另有安排。”(其实他啥也没安排)然后就出去游山玩水下围棋。留下一个摸不着头脑的谢玄独自发呆。桓冲听说后也派遣三千精兵来增强建康防卫，被谢安全部推掉，说：“我早有安排，不缺人手，你还是留着自己用吧。”急得桓冲对部下说：“谢安高人雅量，但就是不懂得打仗，现在大敌当前还是这么悠闲，又让些孩子去打仗，人还这么少，国家的将来可想而知。看来我要改行当胡人罗。”
在前秦先锋官苻融的指挥下，秦军很快就攻占了东晋的寿阳(安徽寿县)，活捉了守将徐元喜。苻融一看东线战事太顺利，就调拨慕容垂带领三万部队进攻西线的郧城(湖北郧县)。
东晋胡彬听说寿阳兵败的消息后，只好带着五千水军往东撤退，半路上被前秦梁成率领五万军队包围在洛涧(安徽淮南东)，并在胡彬阵地外面修筑了层层叠叠的栅栏来切断他的粮道。谢石和谢玄的部队在洛涧以东二十五里处摆下阵势，但害怕梁成的勇猛，不敢贸然进攻。没两天胡彬的粮食就吃光了，就派使者告诉谢石快想办法。
正巧送信的人被苻融的侦察兵逮住，苻融知道这个情报后，认为是件好事，就派人通知远在一百七十公里外的项城的苻坚，告诉他“敌人很少，快点过来别让他们跑了。”苻坚一听当然很高兴，就把主力留在项城(可是近百万啊)，自己带领八千羽林郎秘密来到寿阳，和苻融商量怎么吃掉对方。
这时候苻坚的仁慈心又上来了，为了对方的生命着想，苻坚就派遣在襄阳被俘的东晋将领朱序去劝说谢石投降。但朱序到了东晋的营地后，并没有按照苻坚的意思照办，而是把前秦的防御部署向谢石和盘托出，并对谢石说：“现在只有苻坚和苻融在这里，如果百万秦军都来了那就大势已去了，所以就趁现在他们还没集结赶快上去揍一顿，如果击败了他们的前锋，那么敌人必定会士气大降，下一步作战就有利了。”(可见就连朱序也没有想到前秦会惨败，也许正象他说的那样，朱序所期待的最好局面就是能击退苻融的先锋，好在苻坚的百万主力来到后能多周旋一会)谢石并不清楚朱序说的是真是假，有这等好事当然不敢妄断。还是谢玄拍桌子起来，下令在广陵待命的刘牢之五千北府兵出场，直取梁成在洛涧的主阵地。骄横一世的梁成怎么也没想到东晋会先发制人，五万部队还没发动就被击溃了，梁成本人也把脑袋上缴给了东晋。
谢石一看战况不错，就下令水陆两军同时向寿阳进发，双方又隔着淝水开始对峙。苻坚站在寿阳城楼上眺望晋军，看到敌人军纪严整，又看到对面八公山上风吹过来，草木晃动，隐隐如有千万军队，这才真正害怕起来。对苻融说：“这是劲敌啊，怎么说是弱旅呢？”