Según las crónicas, en la primera mitad del siglo XIV, el metropolitano Pedro recibió del gran príncipe de Moscú Iván Kalita un terreno al norte de la Catedral de la Asunción en el Kremlin para su corte.

En 1450, el metropolitano Jonás construyó en este lugar una iglesia de piedra de la Transfiguración y el primer palacio de piedra en el Kremlin. Después del incendio de Moscú en 1473, el metropolitano Gerontio reconstruyó la corte. En 1484-1485, maestros de Pskov erigieron una nueva iglesia de la Transfiguración, que ha perdurado hasta nuestros días. Todos los metropolitas posteriores, y desde finales del siglo XVI los patriarcas, continuaron desarrollando sus dominios en el Kremlin, construyendo edificios de madera y piedra.

Durante la intervención polaco-lituana y el incendio de 1626, el Palacio Patriarcal sufrió daños por el fuego. El patriarca Filaret restauró las salas de la Cruz y del Comedor, así como construyó celdas y iglesias de madera.

En 1643 comenzó una nueva etapa de construcción bajo el patriarca José. Bajo un mismo techo se erigieron las salas de la Cruz, la Dorada, la de Celdas y la de Hacienda, así como espacios auxiliares. Las obras fueron dirigidas por Antipa Konstantinov, quien participó en la construcción del Palacio Terem.

La siguiente etapa en la historia del palacio patriarcal está relacionada con el patriarca Nikon. En otoño de 1652 comenzó la demolición de las antiguas salas y edificios en la antigua corte de Boris Godunov, que Nikon recibió como regalo del zar Alexei Mikhailovich. Para finales de 1655 se construyeron nuevas salas e iglesias, y la decoración de los espacios continuó hasta julio de 1658, cuando Nikon dejó el cargo. El primer piso del palacio se utilizó para necesidades domésticas, en el segundo se ubicaban las salas de gala y la iglesia doméstica, y en el tercero, los aposentos personales del patriarca.

Los patriarcas posteriores también realizaron cambios en la arquitectura y decoración del palacio.

En 1721, tras la abolición del patriarcado y la creación del Santo Sínodo, el edificio albergó su oficina en Moscú, lo que llevó a cambios significativos en la planificación y decoración de las salas.

En 1918, las salas patriarcales, como un monumento único de la arquitectura del siglo XVII, fueron transferidas al museo. Comenzó una larga restauración científica, durante la cual el edificio recuperó su apariencia original. En 1967, en el segundo piso de las salas patriarcales, se abrió la primera exposición permanente.

En 1980 y 1985 se llevaron a cabo importantes trabajos de restauración científica, cuyo resultado fue la exposición moderna del museo.

En la década de 2010, la exposición del museo fue modificada en cierta medida. Durante las obras de reparación en 2013, se descubrieron fragmentos de pintura del siglo XVII en las paredes de los vestíbulos de gala y las salas de órdenes.