夜。大族擅权，政治黑暗；豪强纵横，民不聊生，表面上的繁荣已经掩盖不住日益加深的社会危机了。
一天半夜，祖逖被野外传来的鸡鸣声吵醒了，便用脚踢醒刘琨，说：“此非恶声也”。于是，两人相邀到户外，拔剑起舞。这就是流传至今的“闻鸡起舞”的佳话。
祖逖与刘琨“并有英气”，对每况愈下的政局充满了忧虑，经常议论国家大事，有时夜深还不能入睡，拥被起坐，相互勉励说：“若四海鼎沸，豪杰并起，吾与足下当相避于中原耳”。
晋元康元年（公元291年），一场历时十六年的战乱终于爆发了。在“八王之乱”中，祖逖和刘琨萍飘蓬转，各自东西。当时晋王室相互争斗，祖逖为诸王所重视，先后担任齐王司马冏大司马府的掾属、长沙王司马乂骠骑将军府的祭酒和主簿，稍后又迁任太子中舍人、豫章王从事中郎等。
晋永兴元年（公元304年）农历7月，洛阳禁卫军在东海王司马越的统率下，拥晋惠帝讨伐成都王司马颖，祖逖随军北伐。但在荡阴战败，惠帝被俘，被挟持到长安，祖逖又随军退还洛阳。
西晋宗室诸王为了争夺帝位，使中原地区横尸遍地，生灵涂炭，在宦海中浮沉了多年的祖逖对此深感失望。所以当关东诸王，如范阳王司马虓、高密王司马略、平昌王司马模等人竞相招引他出来做官时，均被他回绝了。东海王司马越又命他担任典军参军、济阴太守，适遇其母病逝，他干脆守丧不出。
三、聚众南下
晋永嘉五年（公元311年）农历6月，洛阳陷落，北方人民纷纷逃亡到南方避难，祖逖也被迫带着亲族宗党几百家南下淮泗（今江苏徐淮地区）。一路上大家风餐露宿，历尽艰辛，祖逖主动把车马让给老弱和病人，又把粮食、衣物和药品分给别人。他和大家同甘共苦。他还常常想办法，解疑释难。大家既感激他，又敬佩他，一致推举他担任流人队伍的“行主”。
永嘉五年（311年）匈奴族刘曜率汉军攻陷洛阳，晋怀帝被俘，中原大乱，祖逖率亲邻几百家避难南下，与他们甘苦与共，又富有谋略，于是被推为他们行旅的首领——行主。祖逖至泗口（今江苏淮阴北），镇东大将军司马睿任命他为徐州刺史，不久征为军咨祭酒，移居京口（今江苏镇江）。
当祖逖走到泗口（今江苏徐州）时，坐镇建邺（今江苏南京）的镇东大将军、琅砑王司马睿（晋元帝）任命他为徐州刺史。
晋建兴元年（公元313年），又征召他担任军谘祭酒，于是，祖逖就在京口（今江苏镇江）定居下来。
西晋*被*后，祖逖常怀“振复之志”，他手下的宾客义徒都是暴杰勇士，祖逖待之犹如子。时扬州闹灾荒，这些人便常常劫掠富户。祖逖有时问他们：“比复南塘一出不”？这些人中，有人若被官吏揭露捕获，祖逖便去解救。人们为此非议他，但祖逖仍若无其事，我行我素。
四、中流击楫
晋建兴元年（公元313年）农历4月，晋愍帝即位，以司马睿为左丞相，让他率兵二十万直攻洛阳。农历6月复遣使催促。当时，司马睿致力于开拓江南地区，根本顾不上北伐。而祖逖虽出身北方大族，并可以在司马睿偏安一隅的小朝廷里本可以安享尊荣，步步高升的。但是，他不愿苟且偷安，不贪恋安定舒适的生活。在南北门阀士族热衷于新*的权力再分配的时候，在他们热衷于求田问舍，进行新的兼并的时候，祖逖义正辞严地提出收复半壁河山，拯救中原同胞于水火的强烈要求。祖逖向他进言：“晋室之乱，非上无道而下怨叛也。由籓王争权，自相诛灭，遂使戎狄乘隙，毒流中原。今遗黎既被残酷，人有奋击之志。大王诚能发威命将，使若逖等为之统主，则郡国豪杰必因风向赴，沈弱之士欣于来苏，庶几国耻可雪，愿大王图之”。