东晋在南京定都，与北方基本上是以淮河为界，首都南京面对着滚滚长江，隔江北和淮南与北方对峙，进退自如攻守兼备。长江和淮河之间的广阔区域，成为护卫京畿重地，成为抵御北方强敌的缓冲地带。要想北伐，要想守住南京这一亩三分地，首先得发展经济，有了经济实力，有了足够的粮草，GDP上去了，才谈得上打仗，才能打胜仗。

然而中国历史上的南北朝，从头至尾，内乱远远超过了外患。不止南边的东晋是这样，北方的五胡也是内乱不断，没有一天太平。中国人的毛病南北都一样，是不是汉人没差别。南京引以为荣的六朝繁华，乱象丛生，王敦差一点颠覆了东晋，接下来，又是苏峻之乱，桓温之乱。宋齐梁陈，一个动乱接着一个动乱，每一次动乱，都会给南京城带来很大的不安，都是人员和财产的巨大损失。

情况危急时，南京的朝廷也不止一次有过再迁都的动议，譬如苏峻之乱以后，南京城里乱作了一团，《晋书》卷六十五列传第三十五上有记录：
及贼平，宗庙宫室并为灰烬，温峤议迁都豫章，三吴之豪请都会稽，二论纷纭，未有所适。导曰：“建康，古之金陵，旧为帝里，又孙仲谋、刘玄德俱言王者之宅。古之帝王不必以丰俭移都，苟弘卫文大帛之冠，则无往不可。若不绩其麻，则乐土为虚矣。且北寇游魂，伺我之隙，一旦示弱，窜于蛮越，求之望实，惧非良计。今特宜镇之以静，群情自安。”

温峤建议要去的豫章，也就是今天的江西南昌，三吴之豪所请的会稽，也就是今天的浙江绍兴，两地都过于深入南方，其退缩的迹象十分明显。不仅无益于北征中原，同时也不利于保守南方，因此王导称之为“窜于蛮越”，而在苏峻乱后迁都向南，也确实有示弱北方之嫌，难免给对手留有可趁之机。
王导认为，逃避是不对的，古代真正有为的帝王，绝不会因为一个地方是否“丰俭”而迁都，如果能够像身着粗陋的“大布衣大白冠”的卫文公那样，有着励精图治精神，迁都到任何地方都可以，迁不迁都一样。如果百姓尽废其业，不能自力更生“绩其麻”，不能织布为衣，身处再好的乐土也是枉然。所以要想维护南京城的稳定，最稳妥的办法是“镇之以静”，忍一忍，群情自安。

东晋选择定都南京，一个重要因素是曾经有过建都历史。人的思维会有定式，孙吴在这里经营数十年，方方面面的发展，都已经初具规模。可以说这里就是一个现成的首都，现成二字很重要，西晋灭吴，建邺成为扬州的治所，虽然政治上受到一定压制，城市级别降低了，但并未遭到彻底破坏，旧时宫室还都予以保留。司马睿刚来南京时，他的住所就是太初宫。

当然，除了孙吴宫室得以保留，南京还依然延续着孙吴时的地位。西晋时期的南方已不复存在独立政权，江南地区仍然相对独立，而南京作为前朝的都城，对于长江以南，尤其是东南地区，仍然具有相当强的政治号召力。吴地大族自孙吴以来长期聚居于此，在这里形成了强大影响力。他们显然不希望自己的政治势力，随着孙吴灭亡而就此消失。

吴地吴人一直都把南京作为实现复国大业的根基，希望重建以南京为中心的南方政权，通过它再度提升自己的地位，维系其自身的利益。而童谣“局缩肉，数横目，中国当败吴当复”，便可以有了另外一种解释。南京再次成为首都，成为中央政府所在地，不就是既成事实的“吴当复”了吗。因此，桓温桓大将军西征灭掉成汉，对于南京的居民来说，无论是侨居在此的南迁北人，还是早就在这里生活的吴人，都觉得是一件在非常好的事情，是非常了不得的业绩。
如果北伐直通成功，会怎么样，当然很好，过江诸人可以重新回到北方去，还都洛阳，或是再次定都长安。但是这么好的一件事情，怕是从上到下，无论是士大夫还是老百姓，大家都不太相信，都不敢相信。“克复神州”说说容易，真要做起来就太难了。

因此北伐和光复失地，美梦可以做，也不能太当真，太当回事。东晋曾有过多次北伐，每次北伐，身在南京的帝王，心中都是七上八下，都很担心，一是明白北伐不太可能成功，二是害怕真成功了，功高盖主，再也管辖不了自己骄横的下属。
东晋的皇帝们本来就缺乏威信，前期的王敦，后来的桓温，都是尾大不掉，都是臣强主弱，都是自以为本事很大，完全不把皇帝放在眼里。巧的是王敦和桓温还都是驸马爷，王是司马炎的女婿，娶了襄城公主，桓是司马绍的女婿，娶了南康公主。都是文武双全，两个驸马爷对东晋的建立和稳定，起了非常重要的作用，同时又是非常危险的人物，都到了要篡位的边缘。

桓温灭蜀以后，声名大振，朝廷忌惮不已，担心他日后难以控制。永和五年，后赵皇帝石虎病死，北方形势大乱。桓温立刻上疏朝廷，请求北伐，却未得到回复。永和七年十二月，桓温再次“拜表辄行”，学习前辈诸葛亮的《出师表》，也不管皇上是不是答应，率着五万大军立刻出发，至武昌而止。
朝廷为此惊恐不安，司马昱亲自写信给桓温，极力劝阻，终使桓温率军还镇，返回荆州。皇上不批准桓温北伐，又不能不北伐，于是便派另一名重臣殷浩率军北伐，却屡战屡败，军需物资更被掠夺殆尽，损失惨重。朝野为此怨恨不已，永和十年正月，桓温上奏朝廷，列举殷浩种种罪状，迫使朝廷将殷浩废为庶人。

从此，朝廷内外大权尽归桓温，朝中已无人再能阻止他。接下来，野心勃勃的桓温为所欲为，越来越任性，接连三次北伐，一伐前秦，二伐姚襄，三伐前燕。前两次胜多负少，二伐姚襄时，曾经一度还攻入了洛阳，拜谒先帝皇陵，并设置陵使修复皇陵。然而还是没什么用，占领的土地很快又得而复失。

桓温的第三次北伐，声势很大，决心也很大。却仍然是惨败，这次北伐的最终结局，东晋的敌国前秦由弱转强，至此，东晋政权也从此前的习惯性进攻，转为退缩性的防御。到淝水之战前夕，东晋由强转弱，版图再次变小，消灭成汉后获得的梁益二州，也就是汉中和成都，都已经再次失去。前秦迅速崛起，成为北方最强大的国家，先后灭掉前燕，前凉，并吞鲜卑拓跋氏的代国，统一了黄河流域，然后就把它的进攻矛头，直指东晋。

对于东晋时期的南京人来说，淝水之战是建都以来一场最为险恶的战争，决定了南京还能不能是京城，存亡在此一战。虽然战场远在今日安徽寿县的东南方，但是这场来势汹汹的大战，意味着南朝若是打败，东晋所维护的半壁江山，将不复存在，首都南京也要因此沦陷。那时候，前秦确实太强大了，秦王符坚亲率大军八十万，号称百万雄师，以势不可挡之势杀了过来，《晋书·苻坚载记》记录了他的狂言：
以吾之众旅，投鞭于江，足断其流。

结果却是东晋以少胜多，秦军大败，刚刚统一起来的北方，又一次陷入四分五裂。从此，与这场大战有关的几个成语，开始流芳千古，它们分别是东山再起，投鞭断流，草木皆兵，风声鹤唳。淝水之战的意义，完全可以媲美赤壁大战，赤壁大战是东吴立国的根本，也是南京成为东吴首都的必要条件，淝水之战让东晋转危为安，北强南弱的局面不再。双方的军事势力重新归于平衡，北伐和南侵的念头顿时都降低了许多，和平的愿望开始占据上风。