救出后，年底，杀死债主艾诏，接着，因妻子韩金儿和村上名叫盖虎的通，奸，李自成又杀了妻子。两条人命在身，官府不能不问，吃官司不能不死，于是就同侄儿李过于1629年（崇祯二年）二月到甘肃甘州（今张掖市甘州区）投军。
当时，杨肇基任甘州总兵，王国任参将。李自成不久便被王国提升为军中的把总。同年在榆中（今甘肃兰州榆中县）因欠饷问题杀死参将王国和当地县令，发动兵变。
李自成起事后转战汉中，参加了王左挂的农民军。1629年，后金第一次入塞，北京震动，大将袁崇焕被皇帝凌迟处死。1630年王佐挂被朝廷招降，李转投奔张存孟（不沾泥），为队长。
张献忠在家乡聚集十八寨农民也组织了一支队伍响应王嘉胤等暴动。他自号“八大王”。由于他“身长瘦而面微黄，须一尺六寸，僄劲果侠，军中称为‘黄虎’”。这一队伍初属王嘉胤自用，后自成一军。因他小时读过一点书，又受过军事训练，为人多智谋，果敢勇猛，很快就显示了指挥才能，他的部众成为当时以王自用为盟主的三十六营中最强劲的一个营。从此，张献忠随着流民队伍，转战于陕西、山西、河南、安徽、湖北、四川等地，屡立战功。他的队伍也由几千人发展到几万人，成为最强大的一支部队。在与官军的作战中起着举足轻重的作用。
各部义军先后东进，，活动中心移至山西。作战亦由极度分散，各自为战发展为相对集中，互相呼应。高迎祥、张献忠、李自成、罗汝才等部30余万人，号称36营，一度破大宁、隰州、泽州、寿阳等城。
太原城内的原山西巡抚官邸中，四面炉火熊熊，上百人的反民大军首领们齐聚一堂！每个人都被火光映照的面色发亮！所有义军首领全部到齐，这是明末历史上，所有义军的第一次大集合！太原城，也是他们拿下的第一座重镇！这对于整个抗击朝廷，推翻明朝统治，都起到了非常积极的作用！
“现在太原城已经在我们的脚下，下一步该怎么办，大家都说说看！”王自用的身材不高，但是却是这帮人的核心，他是一个彻彻底底的农民，刚猛，果断，加上一些农民式的贪婪，说话的时候，两个眼睛闪烁着精光。
高迎祥，李自成，张献忠等一众大大小小的义军领袖们都看着王自用，谁都没有吭声，虽然各军的人数都相差不多，但这三人的队伍，尤其是高迎祥和李自成张献忠的队伍实力还是要高出其他各路义军的，他们的话，作用很大！
王自用对高迎祥笑了笑，“高老弟，你来说说看，咱这义军里面，就算你学问好些，我的意思是杀向京师，彻底的翻了天去！让他妈的北京城里面的那帮子高官们也尝尝缺衣少食的滋味，咱拿下这他一次次有什么用？整个一座空城，稍微有点实力的老地主们，早他妈的都跑光了！”
高迎祥喝下一口烈酒，站起身来，“王大哥说的是，我高迎祥一切都以王大哥的马首是瞻，不管是去哪儿，咱们这么多人，只要大家拧成一股绳，就天不怕地不怕！”
王自用也高兴的饮下了一大碗烈酒，哈哈大笑道，“好，说的好，到底是读书人会讲话，这道理就是不错，只要咱始终在一起，三十万义军，走到天边都不怕！从陕西打到了山西，哪一路府兵见到我们不是望风而逃？这些个官兵就跟豆腐渣一般！”
一众首领都高声叫嚷着，虽然没有什么吃的，但是大家都热情高涨，拿下了太原城，让每个人都跟打了鸡血一般！
张献忠拉着李自成轻声道，“再往北去的话，可就都是坚城了！过了三关就到了京畿地区！咱人数虽然多，但能打的下北京城吗？不如往下边去，湖北，四川，这些地方可都不缺粮草啊！”
李自成轻轻的点点头，“听我舅父的吧，大家都去，你看这个时候，如果说