公元290年，晋武帝死，惠帝即位，惠帝的妻子贾后与辅助朝政的外戚杨骏争权。次年，贾后杀掉杨骏，由汝南王亮辅政，从而在王族内部开始了“八王之乱”。

在内乱期间，北方的匈奴左贤王刘渊、羯族石勒等人先后称王称帝，攻掠中原。西晋的官吏百姓纷纷逃向江南躲避战乱。当时有个名叫祖逖的人，也带着几百户族人渡过黄河，南迁到淮河流域去。

在逃难途中，祖逖总是把车马让给年老体弱的乡亲乘坐，自己和年轻力壮的族人背着物品徒步行走，他带的粮食、衣服、药品等，也毫无保留地拿出来，与大家一起使用。由于他与大家同甘共苦，又有指挥能力，大家一致推举他当首领。几经辗转，最后来到京口（今江苏省镇江市）。

晋朝在北方的大势已去，但驻守在建业（今江苏省南京市）的琅琊王司马睿，手中还保存着一些兵力，掌握着江南地区的军政大权。他任命祖逖为军咨祭酒（军事顾问官），祖逖几次请兵北伐，司马睿都不给他回音。

公元311年，匈奴贵族刘曜率军攻陷晋朝都城洛阳（今属河南省）。继惠帝位的怀帝仓皇西逃，准备前往长安（今陕西省西安市），结果半路上被刘曜的骑兵抓住，当了俘虏。消息传到南方，引起了爱国志士的严重不安。

祖逖再也忍受不下去了。他特地到建业，当面对司马睿说：“中原的百姓现在正在受煎熬，人人都有奋击戎狄（指少数民族统治集团）的志向。大王应当发兵北伐，把饱受苦难的百姓解救出来！”

司马睿只想保住自己的地盘和势力，根本无意收复失地，恢复中原。听了祖逖的话，低着头不响。

祖逖慷慨请命道：“大王如果能下令出兵，并派我去收复中原，那里的百姓一定会望风响应！”

这样一来，司马睿不能不回答了，他思忖了一会，说：“既然你有这么大的决心，我就任命你为奋威将军、豫州刺史，再拨给你1000人的粮饷和3000匹布，其余的由你自己设法筹集。”

情况很明显，司马睿并不是真的派祖逖去北伐。任他为将军，却不给一兵一卒，也不给一刀一枪，只给一些极有限的粮饷等给养；豫州还被匈奴兵占领着，当那里的刺史连一寸土地也没有。

祖逖明知司马睿是象征性地支持他北伐，但只要他同意让自己出兵，也就可以了。于是他马上返回京口，率领自己部属，横渡长江到北岸去。

船到中流时，祖逖望着滚滚东去的江水和原野茫茫的江北，不禁心潮澎湃，热血沸腾。他猛地站起，举起手中的船楫，叩击着船舷，激昂地起誓道：“我这回要是不能收复中原，就像这大江之水，有去无回！”

祖逖中流击楫，对天发誓，这豪迈壮烈的气概，使部属们深受感动。大家决心跟着他出生入死，收复中原。

祖逖渡过长江后，将部属带到淮阴（今属江苏省）一带驻扎。他一面招兵买马，一面打造武器。不久，就聚集起一支2000人的队伍。随即挥师北上，先占领了谯城，又乘胜追到陈留（在今河南省）。石勒的地盘越来越小，而拥护祖逖的人一天比一天多。没有多久，黄河以南的地方差不多都被他收复了。

后来，人们以“中流击楫”来称颂收复失地、报效国家的激烈壮怀和慷慨志节。

成语出自：《晋书·祖逖传》