西辽后期受到花剌子模威胁, 但政权却被乃蛮王屈出律攫取
西辽王朝在感天后和仁宗统治时期，基本上贯彻执行耶律大石制定的国策，对外弭兵，对内生聚，到承天后统治时期国力已相当雄厚，直鲁古继位后，西辽王朝达到鼎盛时期。
同任何封建王朝一样，它的鼎盛时期也是统治集团奢侈腐化，对外连年用兵，对内加重剥削的时期。
西辽王朝面临的周边国家的崛起困境
在卡特万会战之后，塞尔柱王朝的势力不仅完全退出河中地区，在呼罗珊地区也日趋衰落，代之而起的是古尔王朝。古尔王朝在12世纪末已是阿姆河以南的大国，极力对外扩展。它于伊斯兰历594年（1197年——1198年）占领了巴里黑（今阿富汗马扎里沙里之西北）。
该城的统治者原来每年向西辽王朝送缴哈拉吉（土地税），古尔王朝占领巴里黑后，停止了该城向西辽王朝缴纳贡赋。古尔王朝继续向外扩展，与花剌子模发生冲突，花刺子模沙特克什向西辽王朝求援。使臣对菊儿汗直鲁古说，西辽王朝应该出兵报复，不然古尔王朝将像夺取巴里黑一样夺取花剌子模，然后进攻西辽王朝。
西辽王朝派塔阳占为统帅带领大军出征，天禧二十一年（1198年）春渡过阿姆河，进入呼罗珊地区，同时花剌子模沙特克什也率军到达图斯。西辽军队进入古尔国后，占领了许多地方，军纪很坏，到处抢掠、杀戮，并赶走很多俘虏。西辽军队向古尔王朝的巴里黑城长官发出最后通牒：或是放弃巴里黑城，或是送缴像从前一样的贡赋。巴里黑城长官拒绝这一通牒，呼罗珊的一些城堡联合起来袭击西辽军队。
他们的大营被偷袭，仓皇逃走，死亡很多，天明才知道不是古尔王朝的主力部队，于是回头再战，但穆斯林志愿军和古尔的预备队都投入战斗，结果西辽军队溃败，被追逐至阿姆河，许多士兵被赶进河中淹死。这次战役西辽王朝共死亡12000人。
西辽军队惨败的消息传到巴拉沙衮，菊儿汗直鲁古大为震惊，向花剌子模沙派出使臣索取损失赔偿。特克什拒绝，并出言不逊。菊儿汗派兵伐花剌子模，失败而还；花剌子模军追至布哈拉，并攻下该城，不久撤军回国。
伊斯兰历600年（1203年——1204年）古尔王朝与花剌子模又发生战争，并进军花剌子模。特克什已死，他的继承人摩诃末沙向西辽王朝派出使臣求救。菊儿汗派塔阳古率领1万军队救援，西部喀喇汗王朝苏丹之苏丹奥斯曼也率军参加。古尔王朝苏丹什哈布·丁听到消息后仓皇撤兵。
古尔军队在安都淮沙漠被西辽军队包围双方展开激战。古尔军队有5万人死于战场，古尔苏丹和百余人被围在中心,后用得脱，进入城堡。西辽军队又把城堡团团围困，经奥斯曼说合，古尔苏丹交出了他所有的一切：大象、马匹、财宝作为赎金，西辽军队释放了古尔苏丹。西辽军队虽然获得胜利，但是付出了很大的代价，对王朝并没有带来实际好处，相反却为自己未来的敌人花剌子模沙在呼罗珊的发展扫清了道路。
花剌子模对西辽王朝的威胁
随着花剌子模国力的增强，沙摩诃末越来越不甘心于自己的附庸地位，便停止了给西辽王朝的年贡。菊儿汗直鲁古派宰相马赫穆德巴依督责贡赋。当时摩诃末正准备对钦察发动战争，怕引起西辽的入侵，但自己又不愿以藩属的身份接待菊儿汗的使臣，便请母亲图儿罕可敦来处置。
图儿罕可敦以尊崇的礼节接待西辽的使臣，缴纳了所欠的全部年贡，并派出几名贵族随马赫穆德巴依朝见菊儿汗，表示纳年贡的歉意，保证今后恪守藩属的义务。马赫穆德巴依告诉菊儿汗：“苏丹是不老实的，不会再纳贡了”。果然，摩诃末征钦察胜利返回后，不仅停止了对西辽王朝的贡赋，而且开始有计划地征服整个河中地区。
天禧二十九年（1206年）布哈拉爆发了桑贾尔领导的人民起义，摩诃末认为这是征服河中地区的大好时机，便率军进入河中地区，攻占布哈拉，镇压了人民起义。摩诃末同西部喀喇汗王朝统治者奥斯曼结成同盟，与西辽对抗，但被西辽军队打败。摩诃末退回花剌子模。奥斯曼转向西辽王朝，并向菊儿汗的女儿求婚，但遭到拒绝，于是再转向花剌子模。
摩诃末沙于天禧三十三年（1210年）再次出兵，进入河中地区，受到奥斯曼的热烈欢迎；但他们再不是平权的盟友，而是宗主与附庸的关系。摩诃末为动员广大穆斯林支持自己，煽起他们的宗教狂热，宣布对西辽王朝进行“圣战”。
他在怛逻斯附近打败西辽军队，并俘虏了其主帅塔阳古。从此摩诃末威名大震，在官方文书中提到他的名字时开始加上“第二个亚历山大”的称号，表示他的武功同历史上的马其顿·亚历山大一样显赫。
这位自以为不可一世的摩诃末对臣下说：“桑贾尔的统治很长。倘若写这些称号是为了吉祥，那么让他们写作苏丹桑贾尔吧！”于是在他的名字上又戴上“苏丹桑贾尔”的称号。
西辽王朝在对付帝国西部的花剌子模国和西部喀喇汗王朝的叛离而失败的同时，帝国东部的高昌回鹘王国于天禧三十二年（1209年）杀死西辽王朝的监督官投靠蒙古国，天禧三十四年（1211年）葛逻禄部首领阿儿斯兰汗也投奔成吉思汗，归顺蒙古国。这样，西辽王朝只剩下东部喀喇汗王朝这一个附庸国。
而这个附庸国也曾起兵造反，菊儿汗出兵镇压，并把喀喇汗王朝的穆罕默德汗俘虏，囚禁于巴拉沙衮，才暂时稳定住局势。但是这时西辽王朝的直辖领地，情况也是非常之不妙。
屈出律攻灭西辽
蒙古兴起后，乃蛮部被成吉思汗打垮，其王子屈出律及大量部民逃脱。他们奔往别失八里，从那里又越过天山到达库车。屈出律带领部下在库车山里“东游西荡，既无粮食又乏给养，而跟他的那些人已作鸟兽散”。他只好去投奔西辽王朝的菊儿汗。
据《圣武亲征录》记载，这件事发生在天禧三十一年（1208年）的冬天。屈出律到巴拉沙衮后，有一段时间为菊儿汗供职。当花剌子模沙摩诃末起兵反对西辽时，东方的属国、属部也起来造反，西辽王朝处境困难。
这时屈出律对菊儿汗说：“我的人很多；他们遍布叶密立地区、海押立、别失八里；人人都在欺侮他们。如我获得允许，我可以把他们召集起来，靠这些人之力就能支援和加强菊儿汗。我决不能背离菊儿汗指定的方向，哪怕竭尽全力也要完成他的任何命令。”
菊儿汗直鲁古接受了他的建议，并赏赐他许多财宝和封他为可汗。屈出律到叶密立和海押立一带收集自己的族人，又同其他部落结成联盟。他率领这支军队进入西辽直辖领地，大肆杀戮和抢劫。他向花剌子模沙派出使臣，约定夹攻菊儿汗，瓜分西辽土地。
屈出律出兵击败西辽军队，遂劫掠乌兹干，又进攻巴拉沙衮，但被菊儿汗打败，士兵大半被俘。屈出律北走，重新集结兵力，等待时机。
天禧三十三年（1210年）怛逻斯战役后，花剌子模和西辽各自退兵。西辽军队纪律败坏，沿途烧杀抢劫，人民惊恐。当他们抵达巴拉沙衮时，居民们紧闭城门，拒绝他们入城,认为花剌子模军队也会随之到达。西辽军队的将领们劝他们缔结和约，告诉他们花剌子模已退兵。
但居民们不相信，坚持战斗了16天，最后被西辽军队用大象把城门攻毁。西辽军队入城后，屠杀3天3夜，据《世界征服者史》记载，有大名绅47000人被杀。西辽军队同时大肆抢劫，得到大量财物。但是这时菊儿汗财政困难，国库空空如洗。
宰相马赫穆德巴依怕菊儿汗征收自己的财产，便建议把士兵抢劫的财物集中归国库。当将军们听到这一消息后，便各自带军队离开菊儿汗，煽动叛乱。
屈出律得知这一情况后，于天禧三十四年（1211年）秋天带军队突袭菊儿汗。《辽史》记载,“乃蛮王屈出律以伏兵八千擒之，而据其位”。这位末帝在位34年，在众叛亲离的情况下结束了耶律大石创建的西辽帝国。
屈出律攫取政权后，表面上对阶下囚很礼敬,“尊直鲁古为太上皇，皇后为皇太后，朝夕问起居”，实际上是利用他来稳定自己的统治。屈出律为了取得契丹贵族的支持，娶了西辽王朝的一位公主，并依这位公主劝告，他由基督教改信佛教，并且在全国大力推行佛教打击伊斯兰教。直鲁古在郁抑悲恚中生活了两年，于宋嘉定六年（1213年） 死去。
屈出律要穆斯林改奉佛教，至少要穿戴契丹人的服装并强制推行，引起人民群众的普遍不满。这时蒙古军队已进入楚河地区，原来的西辽官员起兵响应，屈出律南窜，嘉定十一年（1218年）在瓦罕走廊东部的达拉兹山谷被杀。从此中亚历史进入一个新的时期——蒙古统治时代。