有關喀喇汗國史的文獻資料比較零碎，與其同時代的文獻，如成書於11世紀的《喀什噶爾史》原書已散佚，僅在加瑪勒·哈爾希（Jamal al-Qarshi）的《蘇拉赫詞典補編》中引用的其中的一部分得以保存至今。佚名作者的《博格拉汗傳》（Tazkirat al-Bughrakhan）專門記載了第一位皈依伊斯蘭教的薩圖克·博格拉汗的史事，但後者帶有明顯的宗教詠史詩的色彩，或具有追述往事的傳說的性質。[5]近年，利用錢幣銘文研究汗朝政治史，對汗朝世系和諸汗在位年代多有補正。但是，諸汗名字、稱號時時添減變換，因而難於排列出明晰的、確切的世系，喀喇汗國汗室的起源問題也未解決。當前，學界有起源於樣磨、葛邏祿（其中的熾俟部落）、葛邏祿－樣磨等說。諸說各有一定道理，亦可以互相補充。近年來，葛邏祿說較占上峰，因為喀喇汗國初期版圖原來主要是三姓葛邏祿的活動區域，而且喀喇汗國主力軍是由三姓葛邏祿之一的熾俟構成的。但是，在9世紀上半期喀喇汗國建立前夕，九姓回鶻近支樣磨部已遷入葛邏祿駐牧的部分地區，特別是占有了喀喇汗國的重要中心之一，後來東喀喇汗國的都城喀什噶爾。而且文獻中也有樣磨汗的稱號為博格拉汗的記載，所以汗族出自樣磨說也不無根據。另一方面，回鶻汗國崩潰後的部分回鶻部落進入該地區.
文獻記載與傳說中的喀喇汗國開國君主均是薩圖克·博格拉汗的祖父闕毗伽·卡迪爾汗（或作毗伽闕·卡迪爾汗）。有人將此人與回鶻汗國崩潰後西奔的龐特勤勘同，但未能提供足夠證據。建國之初，這個汗國一如突厥汗國，也是一個鬆散的游牧部落聯盟。在草原游牧帝國的「雙汗制」傳統影響下，大汗之側有副汗。大汗稱阿爾斯蘭（獅子）喀喇可汗，駐八剌沙袞，號「虎思斡耳朵」（今吉爾吉斯托克馬克東，有人認為即唐代的「裴羅將軍城」），後移駐喀什噶爾 （今喀什），稱「斡耳朵坎特」。副汗稱博格拉（公駝）喀喇可汗，駐怛羅斯（今哈薩克塔拉茲）。正、副汗之下有若干由汗族成員擔任的小汗，小汗之下由王公貴族組成封建等級階梯分治各地，這書汗國一開始就具有分裂趨勢。
著名的薩圖克·博格拉汗是這個國家第一個信奉伊斯蘭教的可汗，更重要的是他也是世界歷史上第一個皈依伊斯蘭的突厥人可汗。喀喇汗國也是突厥人的第一個穆斯林王朝，為突厥人的全面伊斯蘭化邁出了第一步。薩圖克·博格拉汗接受伊斯蘭教的一個原因是當時的政治、文化氣候，當時伊斯蘭教已傳入中亞近兩個半世紀，中亞穆斯林諸王朝政治上強大，文化上欣欣向榮，經濟上富足，在薩圖克所管轄的阿圖什地方，經常有來自周邊地區的穆斯林商人，在穆斯林商人與他的交流中，帶給他另一個新興世界，也讓他對伊斯蘭文化的嚮往加深了。另一個原因是為了奪回汗位。薩圖克的叔父奧古爾恰克在他父親去世後接替汗位，但在薩圖克長大後不願讓他按傳統成為儲君，而是打算讓自己的兒子繼位。此時，薩曼王朝的一個王子「納斯爾」流亡到喀喇汗國境內，奧古爾恰克為了對付薩曼王朝，便接納了他，把他安置在了阿圖什。於是，在這位流亡的薩曼王朝王子的影響下，薩圖克·博格拉汗皈依了伊斯蘭教，並取名阿卜都·卡里姆。而「納斯爾」王子在促使薩圖克皈依伊斯蘭教的同時，也給了他藉助伊斯蘭教的力量奪回汗位的希望。後來的事實也證明，這一做法行之有效，在與其叔父奧古爾恰克的對抗中，來自伊斯蘭世界的志願軍起了重要的作用。955年，薩圖克·博格拉汗在奪回汗位後不久即逝世於阿圖什，當地至今還有他的墳墓。他本人在世期間，並沒有其他重要的政治活動。
在其子木薩繼位後，繼續推行境內突厥人的伊斯蘭化。阿拉伯史書記載，960年這一年有二十萬帳突厥人接受了伊斯蘭教。薩圖克·博格拉汗之孫哈侖·博格拉汗（亦作哈散）自八剌沙袞出征河中地區（阿姆河與錫爾河之間）的薩曼王朝，992年攻陷其都城布哈拉，999年，他聯合今阿富汗境內的另一突厥王朝，加茲尼王朝的君主馬合木共滅薩曼王朝，從此喀喇汗國奄有阿姆河以北中亞地區[3]。
大約自1041年起，喀喇汗國正式分裂為二，以錫爾河為界，西部的可汗為阿里後裔，通稱阿里系，領有河中地區及費爾干納西部，以布哈拉為都城；東部的可汗為哈侖（哈散）後裔，通稱哈侖或哈散系，領有塔拉斯、賽藍、塔什干、費爾干納谷地東部、七河地區和喀什噶爾，以八剌沙袞為政治、軍事都城，以喀什噶爾為宗教、文化中心。兩汗國互相攻伐，並引外部勢力為助；同時，東、西兩汗國內部也內訌不已。西喀喇汗國從11世紀後半期起，已受塞爾柱帝國之挾制。東喀喇汗國的伊不拉音·本·阿赫邁德在位期間（1140年即位），被入侵中亞的耶律大石政權所控制，並廢除其汗號，改封「土庫曼·伊列克」（突厥蠻之王），成為了西遼的附庸。13世紀初，因敗於蒙古帝國成吉思汗而投奔西遼的乃蠻王子屈出律篡奪了西遼汗位，並於1211年進占喀什噶爾，東喀喇汗國遂亡。翌年，西喀喇汗國為花剌子模王朝的君主阿拉烏丁·摩訶末所滅。