受朱序的建议，决定一战。
十一月初，谢玄派北府军第一猛将鹰扬将军刘牢之精选精锐五千，奇袭洛涧西岸的秦军梁成部。刘牢之原本打算乘夜奇袭，但在距洛涧十里时已被秦军发觉，经验丰富的梁成立即在洛涧西岸列阵以待。
刘牢之当机立断，趁着黑夜两军相互看不清对手的多少，率五千晋军强渡洛涧，猛击秦军。秦军中不少是新兵，在夜晚被晋军的气势所吓到，发生骚乱。梁成奔到最前沿试图制止骚乱，结果正好撞上刘牢之的主突击方向。秦军兵力虽多，但在黑夜里调动指挥不便，在这一点上对晋军没有优势，梁成被刘牢之率部斩于阵中。
刘牢之趁着秦军混乱，分兵穿过秦营南面，绕到秦军背后切断秦军的归路。失去指挥的秦军惊恐万状，顿时崩溃，慌不择路涌向淮水试图渡河北逃，很多人淹死或被晋军杀死、自相践踏而死。
3. 结果：晋军阵斩秦卫将军梁成、扬州刺史王显、弋阳太守王咏等十员将领（另一说王显被晋军俘虏），秦军阵亡达一万五千人，余众溃散，大批的军器辎重被晋军缴获。
洛涧之战的胜利，极大地鼓舞了东晋军队的士气，重挫了前秦军队的锐气，为后来的淝水之战中东晋以少胜多奠定了基础。这场战役也展现了东晋北府兵的强大战斗力以及刘牢之等将领的出色指挥才能。