牛存節的職業生涯再次迎來了新的高峰。他被加封為淮南西北面行營招討使，負責控制淮河沿岸地區。在他的努力下，邊境得以安定，百姓安居樂業。
然而，同年冬天，蔣殷佔據徐州反叛的訊息傳來，打破了這份寧靜。牛存節當時正率領大軍駐守在潁州，得知蔣殷的逆謀後，他秘密地將情況上報給朝廷，並立即奉詔與劉鄩一同討伐蔣殷。他們駐紮在埇上，準備迎擊即將到來的敵人。
淮南的賊寇朱瑾率兵前來救援蔣殷，距離宿州只有兩舍（一舍為三十里）的距離。然而，當他們聽說牛存節的大軍已經到來時，卻立即丟棄了糧食和鎧甲，逃跑了。這一幕，無疑是對牛存節威名的最好證明。最終，徐州被平定，朝廷下詔加封牛存節為太尉，以示嘉獎。
然而，長期的征戰與勞累，也讓牛存節的身體逐漸透支。到了夏天，他患上了消渴症和痟病（一種風寒病）。當時河北正在用兵，末帝命令他率領軍隊駐紮在陽留，以增強劉鄩的聲勢。牛存節雖然身患重病，但他的忠誠與憤慨卻更加堅定。他從未提及自己的病情，在料敵和治軍方面反而更加嚴厲。他的這種精神，讓士兵們深受感動，也更加堅定了他們戰鬥的決心。
然而，病情卻並未因為牛存節的堅強而有所好轉。當他的病情惡化時，朝廷下詔讓他回到汶陽養病。然而，這位英勇的將軍，卻在第二天就離開了人世。在臨終前，他告誡兒子知業、知讓等人要忠誠和孝順，沒有談論其他事情。他的離世，讓所有人都感到悲痛與惋惜。他被冊贈為太師，以示朝廷對他的哀悼與敬仰。
牛存節，這位勇猛慷慨、有大節的將軍，無論是野戰還是守城，都是他的長處。他的威名遠播境外，深受末帝的器重。他性格剛強忠厚，有東漢名將賈復的風範。