冬天（公元886年），寒風凜冽，蔡州將領孫儒趁著局勢混亂，攻陷了河陽。諸葛仲方在慌亂中乘著小船逃來投奔李罕之，而孫儒則自封為節度使，企圖在河陽站穩腳跟。然而，好景不長，蔡州賊寇很快就被我軍打敗，孫儒見勢不妙，放棄河陽逃回蔡州。
李罕之和張言抓住了這個機會，迅速收攏了孫儒的殘部，並向太原求援。李克用得知訊息後，派遣澤州刺史安金俊率領騎兵前來援助他們。在安金俊的助力下，李罕之和張言成功收復了河陽。為了表彰他們的功勞，李克用上表推薦李罕之為節度使、同平章事，同時推薦張言為河南尹、東都留守。
李罕之與張言在共患難的過程中結下了深厚的情誼。他們刻臂為盟，誓言要永遠共同分享憂樂，如同古代的張耳、陳餘一樣。然而，李罕之雖然勇猛有膽量，但他的性情卻多疑善變。在撫民統御部眾方面，他缺乏明確的方略，常常施行苛政暴行。他的貪婪性情也讓他不得士人之心。
得到河陽後，李罕之並沒有滿足現狀，而是出兵攻打晉州、絳州。當時正值大亂之後，田野荒蕪，無人耕種。李罕之的部下為了生存，只能靠搶掠作為給養。他們甚至殘忍地吃人，犯下了令人髮指的罪行。絳州刺史王友遇見勢不妙，只好獻城投降。然而，李罕之並沒有就此收手，而是繼續進攻晉州。
河中的王重盈見勢不妙，急忙派遣使者向太祖求援。此時，張言治軍有方、善於積聚物資、勤於種植的優點顯現了出來。他的軍中儲備不乏糧食和物資，因此他能夠源源不斷地送糧食給李罕之，供給他的軍隊。然而，李罕之卻索要無度，讓張言感到十分苦惱。他無力再供應李罕之的需求，於是李罕之便拘捕了河南府的官吏進行鞭打責罰。
東方的諸侯到皇帝出行的地方進貢時，也多次被李罕之攔截扣留。王重盈苦於他的侵奪行為，暗中勾結張言請求消滅他。文德元年（公元888年）春天，李罕之出動全部兵力攻打平陽時，張言抓住了這個機會。他趁夜出兵偷襲河陽，李罕之沒有防備，隻身逃脫，全家被張言俘虜。
李罕之在逃亡中直奔太原向李克用求救。李克用念及舊情，上表推薦他為澤州刺史，仍兼任河陽節度使。三月時節，李克用派遣他的將領李存孝率領三萬大軍前來援助李罕之，共同攻打懷州、孟州。然而，城中的糧食已經吃盡，防備也預先都耗盡了。張言見勢不妙，只好派遣他的家眷作為人質，並且向太祖求救。
太祖得知訊息後，派遣葛從周、牛存節前往迎戰。然而，恰逢晉將安休休率領一支軍隊投奔蔡州，李存孝見狀率軍撤退，李罕之也只好退守澤州。從此之後，李罕之每天出兵侵擾懷州、孟州、晉州、絳州等地。數百里之內，郡縣沒有長官治理，鄉里沒有居民居住。河內的百姓為了躲避戰亂和搶掠，互相結伴屯駐營寨。即使他們出去打柴取水，也會被李罕之的部眾俘虜殺害。
那些奇峰絕路、梯子架在危險地方的地方，也都被李罕之的部眾一一攻取。在這之前，蒲州、絳州之間有一座山叫摩雲，當地人在上面設立柵欄來躲避賊寇侵擾。然而，李罕之卻率領一百多人攻下了這座山。軍中因此稱李罕之為“李摩雲”，以讚譽他的勇猛和戰鬥力。
然而，李罕之的殘暴行為並沒有因此而停止。他繼續率領部眾在幾個州之間肆虐搶掠、殺人放火。百姓們為了躲避戰亂和搶掠紛紛逃離家園，導致原野上荊棘遍佈、煙火斷絕。這種慘狀持續了十多年之久，給當地百姓帶來了深重的災難和痛苦。