Selon les chroniques, au début du XIVe siècle, le métropolite Pierre a reçu du grand-duc de Moscou Ivan Kalita un terrain au nord de la cathédrale de l'Assomption dans le Kremlin pour sa cour.

En 1450, le métropolite Ion a construit à cet endroit une église en pierre de la Transfiguration et le premier palais en pierre du Kremlin. Après l'incendie de Moscou en 1473, le métropolite Gerontius a reconstruit la cour. En 1484-1485, des maîtres de Pskov ont érigé une nouvelle église de la Transfiguration, qui a survécu jusqu'à nos jours. Tous les métropolites suivants, et depuis la fin du XVIe siècle les patriarches, ont continué à développer leurs domaines dans le Kremlin, construisant des bâtiments en bois et en pierre.

Pendant l'intervention polono-lituanienne et l'incendie de 1626, le Palais Patriarcal a souffert du feu. Le patriarche Philaret a restauré les salles de la Croix et de la Table, ainsi que construit des cellules et des églises en bois.

En 1643, une nouvelle étape de construction a commencé sous le patriarche Joseph. Sous un même toit, les salles de la Croix, de l'Or, des Cellules et de l'État, ainsi que des locaux auxiliaires, ont été érigées. Les travaux étaient dirigés par Antipa Konstantinov, qui avait participé à la construction du Palais Terem.

La prochaine étape de l'histoire du palais patriarcal est liée au patriarche Nikon. À l'automne 1652, le démantèlement des anciennes salles et bâtiments de l'ancienne cour de Boris Godounov a commencé, que Nikon a reçue en cadeau du tsar Alexis Mikhaïlovitch. À la fin de 1655, de nouvelles salles et une église avaient été construites, et la décoration des locaux a continué jusqu'en juillet 1658, lorsque Nikon a quitté son siège. Le premier étage du palais était utilisé pour des besoins domestiques, le deuxième abritait des salles de réception et l'église domestique, et au troisième, les appartements privés du patriarche.

Les patriarches suivants ont également apporté des modifications à l'architecture et à la décoration du palais.

En 1721, après l'abolition du patriarcat et la création du Saint-Synode, le bâtiment a accueilli son bureau moscovite, ce qui a entraîné des changements significatifs dans la disposition et l'aménagement des salles.

En 1918, les salles patriarcales, en tant que monument unique de l'architecture du XVIIe siècle, ont été transférées au musée. Une longue restauration scientifique a commencé, au cours de laquelle le bâtiment a retrouvé son apparence initiale. En 1967, au deuxième étage des salles patriarcales, la première exposition permanente a été ouverte.

En 1980 et 1985, d'importants travaux de restauration scientifique ont été réalisés, aboutissant à l'exposition moderne du musée.

Dans les années 2010, l'exposition du musée a été quelque peu modifiée. Au cours des travaux de rénovation en 2013, des sections de peinture du XVIIe siècle sur les murs des halls de réception et des salles de commande ont été révélées.