李密的悄悄到来，彻底改变了瓦岗的局势。李密字玄邃，一字法主，祖先系辽东襄平人，父亲是北周、隋朝名将，蒲山公李宽。李密十多岁时，靠父亲爵位，荫为左亲卫府大都督、东宫千牛备身，即东宫太子的亲兵。可是隋炀帝很不喜欢他，说他有点奸猾，不能做侍卫。
　　
　　李密挨了当头一棒，开始发愤读书，时常骑着牛到安静的郊外，牛角上挂着《汉书》。有天李密读得正入神，被司徒杨素碰上了。杨素从此关注上了李密，并让儿子杨玄感倾心接纳李密。这不能不说是杨素这个做父亲的太明白儿子的优点与缺点了。他明白自己的儿子杨玄感，武勇有余，智略不足。找个会读书、有才略的人辅佐，这样自己儿子将来才可以在朝堂上立得住，站得稳。而情形也朝杨素希望的方向发展，李密和杨玄感关系越来越好，是为刎颈之交。不过有意思的是杨玄感曾这样问过李密：“炀帝多猜忌，隋朝恐怕不能长久，一旦天下大乱，你和我谁更能成事？”颇有小霸王孙策临终对孙权说的话，李密的回答也和孙策的话同出一辙，简略点就是：“打仗我不行，招揽人才你不行”。
　　
　　杨玄感谋反前夕，曾找李密，问如何行事，李密说：
　　
　　“愚有三计，惟公所择。今天子出征，远在辽外，地去幽州，悬隔千里。南有巨海之限，北有胡戎之患，中间一道，理极艰危。今公拥兵，出其不意，长驱入蓟，直扼其喉。前有高丽，退无归路，不过旬月，赍粮必尽。举麾一召，其众自降，不战而擒，此计之上也。又关中四塞，天府之国，有卫文升，不足为意。今宜率众，经城勿攻，轻赍鼓行，务早西入。天子虽还，失其襟带，据险临之，故当必克，万全之势，此计之中也。若随近逐便，先向东都，唐祎告之，理当固守。引兵攻战，必延岁月，胜负殊未可知，此计之下也。”
　　
　　李密已将天下大势了然于胸，且颇有远见和军事谋略。可惜杨玄感没有采纳其上策和中策，而是将李密的下策作为自己的上策。现在看起来，杨玄感应该是觉得，路途遥远，消息通讯不便。自己的军队完全可以在这个时间差里，拿下东都，进而再北上攻取山海关。事实证明，杨玄感反叛的消息通知到炀帝已在一个月后，但杨玄感的军队却没能如期攻下东都。结果炀帝立即班师将杨玄感包围在洛阳城下，杨玄感兵败身亡，李密藏匿民间；一度被捕，后又逃走，大业十二年（616年）辗转到山东。
　　
　　不过，后世说书先生就在一节替李密是多有掩护，英雄命蹇之时总有贵人相助，秦琼落魄卖马之时，有单雄信相助，发配之后又罗成相助。李密惶惶如丧家犬，被人介绍上了瓦岗山。那时，上山入盟都要缴纳投名状，即杀一个人，背人命官司，断绝从良的后路。书生李密却上缴了一份书面的投名状，这份投名状使他迅速成长为瓦岗二号人物。
　　
　　李密向翟让进言道：“今主昏于上，人怨于下，锐兵尽之辽海，和亲绝于突厥，南巡流连，空弃关辅，此实刘、项挺兴之会。足下资豪桀，士马精勇，指罪诛暴，为天下先，杨氏不足亡也。”这席话主要分三个层面，逐步递进，翟让这群本来没多大志向的草寇一下子就被吸引住了。李密首先举出刘邦、项羽造反成功案例，说明造反很有前途；再分析炀帝穷兵黩武，喜好奢华，民怨沸腾，造反条件已和当年刘、项一样，进一步坚定翟让等人造反的信念；最后提出应迅速出兵，席卷二京。