气自然高涨。但翟让部众却认为瓦岗军是翟让所创，李密不过是外来户，现在居然后来居上，心里很不是滋味，劝翟让把李密权力收回，翟让没同意。
翟让的哥哥翟弘是个粗人，曾公开对翟让说：“天子应当你来做，为什么要让给别人！你要不当，我就来做。”翟让只是大笑一番，并没放在心上。李密知道了，却非常反感。
李密幕僚大多来自隋朝官员，家庭条件较好，很多人都被翟让勒索欺侮过。
比如崔世枢，曾遭翟让无理扣押，要光了身上财物；邢义期因没有参与翟让组织的赌局，被责打八十大板；还有左长史房彦藻，攻破汝南（河南驻马店汝南县）后被翟让叫来，指着鼻子大骂：“你把战利品都给了李密，却不给我。你知不知道李密是我立的，给我小心点。”
这些人去找李密诉苦，劝李密说：“翟让贪婪无度且刚愎自用，没一点德行，留着他迟早是个祸患。”李密迟疑道：“现在局势未定，如果自相残杀，该如何服众。”左长史郑颋说：“毒蛇蛰手、壮士断腕，是为了保全性命。如果让他得志，那可就晚了。”李密沉默良久，点头默许。
十一日，李密宴请翟让。翟让带翟弘、侄子翟摩侯、司马王儒信及贴身护卫前来赴宴。宴席场面搞得很隆重，裴仁基、郝孝德坐陪，单雄信、徐世积等人在旁侍候斟酒布菜；房彦藻、郑颋则往来穿梭催菜上菜。
李密笑着对翟让说：“今天我与您痛饮，不用这么多人陪着，只留几个供差遣就够了。”言罢，一个眼色过去，身边护卫拱手退出。翟让护卫却没动，仍站于翟让身后。
房彦藻忙请示李密：“今天天气寒冷，是否给翟司徒的人另外安排一桌酒席。”李密探身看着翟让说：“这要听翟司徒的。”翟让痛快回答：“好”。于是房彦藻将他们领了出去，房中只留壮士蔡建德持刀侍卫。
还没开吃，李密神秘兮兮的取出一副装饰豪华的弓来，对翟让说：“我最近得到了一把良弓，您是行家，替我看看。如果真好，那就送给您了。我一个书生，拿着也没有。”
翟让一眼就看出这张弓价值不菲，开心的接过来细细把玩，接着站起来将弓拉满。正在此时，蔡建德突然拔出刀来，从背后狠狠将翟让砍翻在地，翟让痛苦嘶吼，声若牛鸣。
提前设伏的士兵一涌而出，将呆愣不知所措的翟弘、翟摩侯、王儒信乱刀砍死。徐世积反应敏捷，快步冲出房间，却被门旁守护的士卒砍伤脖颈倒在地上。王伯当急忙喝止，单雄信跪在地上求饶。
李密的保密工作做得太好，连裴仁基他们都不知道发生了什么事，厅堂中一片混乱。李密大声说：“我与大家兴举义军，本意要除暴安良。可翟让专权暴虐、欺凌群僚，不讲上下情分。今天所杀止此一家，你们无须顾虑。”
看到场面得到控制，李密让人将徐世积安置好，亲自为他上药疗伤。同时安排单雄信前往翟让大营稳定军心，李密又单骑前往抚慰，将翟让所部分隶徐世积、单雄信、王伯当统辖，人心这才安定下来。
翟让残忍，翟摩侯猜忌，王儒信贪婪，他们死后所部竟无人难过，然而李密的左右将领却产生了疑惧之心。
王世充知道李密与翟让必生嫌隙，本来翼希望于他们内斗，以便从中取利。得知翟让身死，不禁大失所望，长叹着说：“李密英明决断，是龙是蛇真是不好判断啊！”
十二月二十四日，王世充军中有士兵投降李密。李密询问降卒王世充近况，降卒说：“我见他在招募士兵，犒赏将士，也不知是什么原因。”李密沉默片刻，拍了下手对裴仁基说：“我几乎上了这奸贼的当！你知道吗，我们很久没出兵，王世充军中缺粮求战不得，因此才招兵犒赏，想趁月黑之时袭击仓城（洛口仓，下同），我们应早做准备。”