宣武军前身为河南节度使，成立于安史之乱第一年——天宝十四载（755年），后又相继改称汴宋、汴滑节度使。
建中二年（781年）十一月，改称宣武军。其辖地几经变迁，治所位汴州，长期领有汴、宋、亳、颍四州——大体在今河南、安徽与山东三省交界地区。
刘洽是宣武军组建后的第三任节度使，在位期间正值四镇之乱、泾原兵变，他铁心忠于唐室，在永平、神策等军配合下，向北大破淄青叛藩李纳，向南与淮西叛藩李希烈对峙数年互有胜负，因战功卓着累封怀德郡王，被德宗赐名刘玄佐。
他出身贫寒，早年在县里做过捕盗吏，因犯法被县令施以鞭责，险些丢掉性命。后来投入永平军，靠着作战勇猛跻身将领。其人轻财重义，严而有谋，平定战乱后在韩滉劝说下入朝参见，是当时深受德宗宠幸的藩镇主帅之一。
他在宣武担任主帅七年，在他的调理下宣武军从一个二流藩镇步入辉煌，兵力一度达到十万。但也正因如此，宣武将士变得骄横跋扈，只听令他一人指挥。
贞元八年（792年）三月，刘玄佐病故。
与其他牛人统带的藩镇一样，他的死立时让宣武军陷于混乱。军府将佐担心发生兵变秘不发丧，以他的名义奏请德宗从速派人接替。德宗准备让陕虢观察使吴凑继任，遣使询问军中意见。
吴凑是德宗的舅爷，在福建、京兆两地干的都不错，颇有一些政声。监军孟介、行军司马卢瑗认为可以，德宗于是安排吴凑走马上任。
吴凑走到汜水时，刘玄佐死讯公开，军中向卢瑗申请仪仗以备发丧。卢瑗拍马心切，想把仪仗留给新节度吴凑上任时用，一口予以回绝。
这一做法激怒了尊重刘玄佐的众多将士，刘玄佐女婿带领亲兵披甲执刃，簇拥着刘玄佐的儿子刘士宁脱去孝服，占领军府，自称宣武留后。
他们抓捕了同意吴凑上任的守城将曹金岸、浚仪令李迈，将二人凌迟处死。卢瑗跑得快，得以逃脱。
刘士宁打开府库，用重金犒赏将士笼络人心，劫持了监军孟介，借以向朝廷施压。
德宗与宰相商议对策，窦参认为如果不答应刘士宁，恐怕他会倒向淄青李纳，对朝廷不利。德宗采纳了窦参意见，诏令刘士宁为宣武节度使。
刘士宁怀疑宋州刺史崔良佐不依附自己，便以视察为名到达宋州，用都知兵马使刘逸准取代了他。
都说将门出虎子，可惜刘士宁并没有继承父亲的优秀基因，根本不是做节帅的这块儿料。他淫乱残暴又不务正业，经常外出打猎数日不归，上任不过一年多点，便已惹来一身骂名。
都知兵马使李万荣素得人心，引起了刘士宁的猜疑，剥夺了他的兵权，打发他代理汴州政务。
贞元九年（793年）十二月初二，刘士宁带着两万人到郊外打猎。李万荣趁机进入军府，召集留下的千余亲兵，欺骗他们说：“朝廷征召李大夫入朝，让我执掌留守事务。你们工作辛苦，每人赏赐三十缗。”
众亲兵平白得了这么多钱，纷纷下拜道谢。李万荣又照此方法，告谕府外士兵，众人全都信以为真，愿意接受他的号令。
随即下令关闭城门分兵把守，派人飞骑通告刘士宁：“朝廷征召大夫入朝，请你立刻启程。如果迟疑逗留，诏令割掉你的首级进献。”
刘士宁眼见大势已去，带着五百亲信逃奔长安。只是树倒猢狲散，当他走到洛阳时，身边仅剩下数名家仆。
德宗听到这一消息，派人询问陆贽意见。陆贽道：“如今刘士宁被驱逐虽是出于众意，但李万荣执掌宣武却并非朝廷委任。此事涉及国家安危，请陛下派大臣前往查明，谨慎加以处办。”
德宗道：“如果动作慢了，恐怕于朝廷不利