晋惠帝时，晋朝统治集团内部纷争，互相攻杀，有所谓“八王之乱”。接着，在祸乱未平时，西北和北方的五个民族，又乘机脱离晋的统治，先后独立，并且向南进攻。晋怀帝和愍帝都被俘、杀害。晋朝不得不放弃中原，退到长江以南的东南沿海一带，称为东晋。

当初，司马睿为左丞相，镇守建康（今南京）。眼见首都长安失守，晋愍帝被匈奴朝的刘曜所杀，广大沦陷地区人民受到涂炭，而这位掌握大权的左丞相，稳坐江南，毫无动静。这时，祖逖、刘琨等爱国将领，一面领兵北伐，一面给司马睿上《劝进表》。劝他继任帝位，把国家大事勇敢担当起来。鼓励他发愤图强，不要怕困难。并且说：

“多难”反倒可以激励我们复兴晋朝，巩固邦国；“深忧”也可以使皇上认清形势，痛下决心。

这样，司马睿就当上了东晋的第一代皇帝，即晋元帝。可是，晋元帝没有北伐的决心；对于祖逖和刘琨，又不放心，有很多的猜疑。祖逖和刘琨，这两人为了国家利益，奋发自励，随时准备杀敌，为晋朝收复了很多失地的将领，他们的结果是：刘琨被杀害，祖逖忧愤而死。东晋偏安东南的局面，维持了一百多年。

后来，“多难兴邦”这一成语，用来形容建国时会遇到许多磨难。

成语出自：晋·祖逖《劝进表》