Le musée de l'icône russe a été créé grâce à l'initiative de l'entrepreneur et mécène Mikhaïl Abramov et a ouvert ses portes en mai 2006. À l'origine, le musée était situé dans l'une des salles du centre d'affaires « Veréïskaïa plaza » à l'ouest de Moscou, tandis que des travaux de reconstruction de l'immeuble principal du musée étaient en cours.

La reconstruction du bâtiment, situé rue Goncharnaïa au centre de Moscou, a été achevée en 2010. Deux immeubles de rapport, auparavant en état d'urgence, ont été renforcés, entièrement restaurés et transformés en un complexe muséal moderne avec un atrium en verre unificateur. Le nouveau bâtiment du musée a été inauguré le 25 janvier 2011, et la cérémonie a été présidée par le ministre de la Culture de la Fédération de Russie, Alexandre Avdeïev. Avec l'ouverture du nouveau bâtiment, le musée s'est élargi non seulement en termes de salles d'exposition, mais a également obtenu des espaces pour le stockage des objets, leur étude scientifique, leur catalogage, leur restauration et leur recherche technico-technologique. Cela a conduit à la création d'un atelier de restauration spécial et de départements de catalogage scientifique.

Depuis son ouverture, le musée a reçu une large reconnaissance publique et professionnelle. Par exemple, il est devenu la première collection russe privée à entrer au Conseil international des musées de l'UNESCO.