Der Palast diente als Residenz für die große Khanfamilie und war Zentrum der Staatsgewalt, Ort der Gerechtigkeit und Entscheidungsfindung, die die Schicksale Osteuropas beeinflussten. Über zweieinhalb Jahrhunderte lebten und regierten hier Vertreter der Dynastie der Geraev. Der Palast gehörte nicht persönlich einem Khan, sondern war Familienbesitz der gesamten herrschenden Dynastie.

Der Bau begann zu Beginn des 16. Jahrhunderts unter Khan Sahib I. Gerae, gleichzeitig mit der Errichtung von Bachtscharai. Die ältesten Gebäude des Komplexes, wie die große Khan-Moschee und die Bäder von Sara-Güzel, stammen aus dem Jahr 1532. Das Portal Demir-Kapı, datiert auf 1503, wurde aus einem anderen Ort in den Palast versetzt.

Jeder neue Khan fügte der Architektur des Palastes etwas Eigenes hinzu und hinterließ ein Andenken für die Nachwelt. Ursprünglich gab es hier einen Stadtgarten mit Schaukeln und Pavillons, von dem dekorative Becken und Brunnen erhalten blieben. Der Platz war jedoch ursprünglich als offener Raum für Paraden und Feierlichkeiten gedacht, bedeckt mit Flusssand, ohne Bäume und Gewässer. Gärtner schufen an den Hängen Terrassen mit Obstbäumen, die im 20. Jahrhundert zu einem Militärfriedhof wurden.

Während des Krieges zwischen Russland und dem Krimkhanat wurde der Palast zerstört, aber Kapitän Manstein erstellte eine Beschreibung, die den Wiederaufbau des Gebäudes ermöglichte. 1787 besuchte Katharina II. den Palast, und zu ihrem Besuch führte Fürst Potemkin Renovierungsarbeiten durch, bei denen eklektische Elemente in die Innenräume eingefügt wurden.

Während des Krimkriegs war hier ein Lazarett, das Nikolai Ivanovich Pirogov besuchte. 1908 wurde im Palast ein Museum eröffnet, und 1912 besuchte Nikolai II. mit seiner Familie den Palast. Nach der Oktoberrevolution 1917 wurde hier ein Museum für die Geschichte und Kultur der Krimtataren eröffnet.

Seit 1955 ist der Palast das Bachtscharai Historisch-Archäologische Museum, und seit 1979 ein historisch-architektonisches Museum. In den 1930er Jahren wurde unter der Leitung des Architekten P.I. Golandsky eine Renovierung durchgeführt, bei der die äußeren Farben des Palastes weiß gestrichen wurden. 1961 und 1964 fanden wissenschaftliche Restaurierungen statt, die dem Palast sein ursprüngliches Aussehen zurückgaben.

Seit Oktober 2015 ist der Khan-Palast als Objekt des kulturellen Erbes von föderaler Bedeutung anerkannt.