La maison Milgauzen a été construite à la charnière des XVIIIe et XIXe siècles, s'appuyant sur des salles du XVIIe siècle. Cette maison néoclassique austère est ornée d'une rotonde avec un dôme rond et des pilastres, ainsi que d'éléments décoratifs plats en forme de rectangles. La rotonde semble plus haute que la partie principale du bâtiment, car en raison des particularités du relief, le sous-sol en dessous est plus élevé et possède même des fenêtres.

Au début du XIXe siècle, le propriétaire de la maison était Bogdan Milgauzen (1781 ou 1782, 1854), docteur en médecine, professeur émérite de l'académie médico-chirurgicale et conseiller d'État effectif. La famille Milgauzen comptait cinq enfants : deux fils et trois filles. Les fils, Fiodor et Alexandre, ont étudié au pensionnat de Léonti Tchermak avec le futur écrivain Fiodor Dostoïevski. Le pensionnat était situé à proximité, sur la rue Novaïa Bassmannaïa. Le bâtiment du pensionnat n'a pas survécu, et au début du XXe siècle, un immeuble locatif a été construit à sa place.