先前，朱温派葛从周、朱崇节守潞州以待孙揆，二人听说孙揆被擒，李存孝又在赶来，马上弃城而逃，晋军于是收复了潞州。9月25日，朱温知大势已去，在庭堂上责罚各位将领打了败仗的罪过，斩杀了李谠、李重胤，然后退兵返回了洛阳。
此战后李克用封康君立为昭义留后，李存孝为汾州（今山西汾阳及周边县市）刺史，李存孝自认擒获孙揆功劳最大，应当由他充任昭义留后，可是却被康君立抢去这官职，气愤怨恨，连续几天茶饭不思，随意斩杀属下士卒，始生叛意。
10月，张濬统领的官军从阴地关开出，游击队到汾州。李克用派遣薛阿檀、李承嗣领骑兵3千在洪洞安设营寨，李存孝带领军队五千在赵城安设营寨。镇国节度使韩建派出强壮士卒3百人要夜袭李存孝的军营，李存孝事先知道了，便设下埋伏等待韩建人马的到来，韩建派去的人一个没活，都交代了。而靖难军和凤翔军听说李存孝来了，惧于李存孝的威名，未战先撤，李存孝遂领晋军乘胜追击，直达晋州城的西门；张濬带领军队出城交战，再次打了败仗，官军被斩杀的近3千。靖难、凤翔、保大、定难各路军队吓得如惊弓之鸟，争抢着渡过黄河往西回奔，张濬只剩十八卫和宣武军共万人，与韩建一起闭门固守，从此不敢再出城。李存孝带领军队先去攻打绛州。
李存孝11月，刺史张行恭弃城逃跑。李存孝再回攻晋州，围攻了3天，他与属下商议道：“张濬身为宰相，我们俘获他也没什么好处，天子手下的十八卫，我们不应当斩杀。”于是，李存孝率军退50里驻扎。张濬、韩建从含口逃走。李存孝攻取了晋州、绛州，大肆抢掠慈州、隰州一带。而张濬和韩建经过王屋山到达河阳，拆除民房做成木筏才渡过黄河，军中士卒失踪死亡几乎没剩下多少。
大顺二年（891年）3月，邢州节度使安知建暗中与朱温交往，李克用进呈表章请以李存孝代之。安知建知道后很是恐惧，逃奔青州，朝廷于是任命安知建为神武统军。出任邢州留后。安知建领属下3千人要到长安，过郓州，郓州的朱瑄与李克用正相和睦，便在黄河上设下埋伏，将安知建斩杀，并把安知建的头颅传送到晋阳李克用那里。
此时，晋军连年攻进“赵王”王镕控制的常山，李存孝常任先锋，攻下临城、元氏。王镕求救于幽州的李匡威，李匡威兵到，晋军撤走。李存孝素与李存信关系不好，景福元年（892年）正月，王镕、李匡威合兵10余万攻尧山，李克用任命李存信为蕃、汉马步都指挥使，协同李存孝一同攻打王，李存孝、李存信二人互相猜疑忌恨，彼此逗留观望而不前进；李克用只有改派李嗣勋，大败幽州、镇州的军队，斩杀擒获3万人。李存信回李克用那里，谗言道：“存孝有二心，常避赵不击。”李存孝心里不安，暗中联结梁（朱温）和赵，向朝廷上呈表章以邢州、洺州、磁州3州归顺朝廷，并请赏给他节度使的旌旗与节钺，及会同各道军队讨伐李克用。昭宗颁发诏令，任命李存孝为邢州、洺州、磁州节度使，但不同意会合军队的举动，只命王镕前往救援。
3月，李克用又与任义武节度使的王处存合军攻打王熔，3月初九，攻克滹沱河东北的天长镇。三月十四日，王镕在镇州九门县的新市与李克用、王处存展开激战，结果这次李克用、王处存大败，反被斩杀擒获三万余人；3月17日，李克用率众退到栾城驻扎。唐昭宗颁发诏令劝河东及镇州、定州、幽州四镇和解。
景福二年（893年），李克用亲率大军出井陉，逼迫真定，而这时李存孝却去见王镕商讨军机。李克用知道后大怒，7月出兵讨伐李存孝，王镕先是派兵救援邢州，被李克用在平山打败。7月初六，李克用进击镇州，王镕十分惧怕，临阵易帜，“乞盟，进币50万，归粮20万，请出兵助讨存孝”。李克用许可王镕的请求。李克用在栾城整训军队，会合王镕军队总共3万人在邢州东南的任县驻扎，李存信则在邢州龙冈县的琉璃陂驻扎。
9月，李存孝夜犯李存信营，虏奉诚军使孙考老，李存信军大乱。李克用亲率兵前往，掘沟堑以围城。李存孝出兵冲击，晋军无法筑成沟堑。河东牙将袁奉韬派人对李存孝道：“您所畏惧的只是晋王。晋王待沟堑筑成，定会留兵围城自己退去，他手下诸将都不是您的对手，筑好沟堑又有什么用？”李存孝同意，于是任由晋军筑沟堑。沟堑筑成后，深沟高垒，无法靠近，李存孝非常被动。城中粮尽。
乾宁元年（894年）3月，李存孝登上城楼，哭着对城下的李克用道：“儿蒙王的大恩，位至将相，难道愿弃父子关系而投仇敌？这是由于存信诬陷的缘故。希望能活着见王，说句话就