與此同時，北遼滅完後，
北遼大將耶律大石率軍西行，
公元1124年，率軍西行的耶律大石，到達可敦城（今蒙古國布林幹省青託羅蓋古回鶻城）建立根據地，
公元1132年，耶律大石在葉密立城登基稱帝，號“菊兒汗”，群臣又尊漢號為“天佑皇帝”，建元延慶，西遼正式建立。
而此時，經過多年的政治演變，
喀喇汗王朝汗桃花石族的兩大系已完全形成，
即長支阿里系和幼支哈桑系。
起初，王朝的統治權控制在阿里系手中，但玉素甫卡迪爾汗佔領喀什噶爾後，王朝的統治權轉到哈桑系手中。
公元1041年，伊卜拉欣用武力奪取布哈拉後，阿里系控制了河中地區，而哈桑系只控制王朝東部。
伊卜拉欣自稱桃花石·博格拉·喀喇汗，完全獨立自主，不承認東部喀喇汗為宗主。
於是在中亞地區形成了完全平行的兩個獨立王朝——東部喀喇汗王朝和西部喀喇汗王朝。
大約自1041年起，喀喇汗王朝正式分裂為二，
西汗為阿里後裔，通稱阿里系，領有河中地區及費爾干納西部，以撒馬爾罕、布哈拉為都城；
東汗為哈侖·卜格拉汗後裔，通稱哈侖或哈散系，領有怛邏斯、白水城、石城、費爾干納東部、七河流域和喀什噶爾，以八剌沙袞為政治、軍事都城，以喀什噶爾為宗教、文化中心。
公元1089年，塞爾柱王朝攻下布哈拉，
西部喀喇汗王朝從此在政治上成為塞爾柱王朝的附庸；
東部喀喇汗王朝在1130年，也曾一度表示臣服於塞爾柱王朝。
1124年，到達西域的耶律大石，曾經帶領少量部眾逃亡至東喀喇汗汗庭請求避難，
不料此時的東喀喇汗朝自顧不暇，
耶律大石遂聯合3萬回鶻族人，駐紮葉密立，開始發展自己的勢力，
更是在公元1132年，於葉密立城，登基稱帝，建立西遼。
公元1134年，東部喀喇汗王朝大可汗伊卜拉欣，同葛邏祿首領和康裡首領不和，發生衝突，請求耶律大石出兵支援。
耶律大石趁機發動政變，佔領八剌沙袞，作為自己的都城，
至此東部喀喇汗王朝勢力大減，轄地只有喀什噶爾、阿克蘇與和田地區。
而西部喀喇汗王朝，
從11世紀末、12世紀初起，已受塞爾柱突厥王朝（1038～1194）之挾制，
公元1137年，西遼大軍在和氈，擊潰西部喀喇汗王朝的軍隊。
公元1141年，九月九日，
西遼王朝與西亞的塞爾柱王朝，在卡特萬草原上進行了歷史上著名的“卡特萬之會戰”。
此戰之中，耶律大石協同後遼上將魏振興指揮東喀喇汗以少勝多，擊敗塞爾柱王朝，
西亞的塞爾柱王朝，戰後勢力退出了河中地區，
而西部喀喇汗王朝，則向西遼稱臣，
改換宗主後，西部喀喇汗王朝得以用附庸形式儲存下來。
卡特萬之戰擊敗塞爾柱帝國聯軍後，西遼稱霸中亞，威名遠播至歐洲，
附近的高昌回鶻、西喀喇汗國、東喀喇汗國及花剌子模先後臣服於強盛期的西遼。
至此，以耶律大石為首的西遼國，靠政變登上了中亞舞臺，控制了整個西域、中亞地區。
西遼，結束了西域、中亞地區紛爭擾攘百年的局面，創立了具有中華典章制度特色的大國。
不但制止了落後的遊牧部民對城市的侵擾，保障了社會環境的和平安定，輕徭薄賦，發展了生產，循俗施政，取