La maison n°4 se trouve presque au début de la rue et comprenait à l'origine des chambres du XVIIIe siècle. Dans le premier tiers du XIXe siècle, elles ont été intégrées dans un nouveau bâtiment de trois étages avec des façades de style néoclassique tardif.

Au milieu du XIXe siècle, la Société des médecins russes s'y est installée. Les étages supérieurs abritaient une clinique, tandis qu'une pharmacie était ouverte au rez-de-chaussée. À la fin du XIXe siècle, la Société a déménagé dans la maison n°25, et les locaux ont été occupés par des cours de musique dirigés par M. Reshko. L'école acceptait des enfants à partir de sept ans pour des cours de 4 à 5 ans, le coût de l'éducation étant de 50 roubles.

La maison est devenue célèbre grâce à Alphonse Leonovich Shanyavsky, un général russe qui s'est activement engagé dans des activités éducatives. Il a organisé ici un club pour l'intelligentsia créative et des chambres meublées à bas prix, d'abord appelées « Gounib », puis « Capitale ». Des personnalités célèbres telles que l'écrivain Ivan Bounine, le poète Konstantin Balmont et l'artiste Nikolai Sapunov y séjournaient. Les prix des chambres étaient abordables : de un à trois roubles et demi par nuit. Au rez-de-chaussée se trouvait un salon de thé démocratique, où l'on proposait non seulement du thé, mais aussi des déjeuners à bas prix.

Ivan Bounine mentionne dans son récit « La Muse » : « Je vivais à Arbat, près du restaurant « Prague », dans les chambres de « Capitale ». Pendant la journée, je travaillais chez l'artiste et à la maison, et je passais souvent mes soirées dans des restaurants bon marché avec de nouveaux amis de la bohème, passionnés de billard et de écrevisses avec de la bière ».

En 1905, Shanyavsky a légué la maison et le terrain à la Douma de la ville pour créer une Université populaire, accessible à tous ceux qui le souhaitaient. Cependant, l'université n'a ouvert qu'en 1908 et a déménagé en 1912 dans un bâtiment spécialement construit sur la place Miusskaya.

À l'époque soviétique, la maison abritait des appartements communaux et divers bureaux. Lors de la construction du boulevard Kalininsky, ce quartier, y compris le restaurant « Prague », devait être démoli, mais après de longues discussions, il a été préservé. Dans les années 1980, la maison a été mise en rénovation capitale, qui s'est prolongée pendant de nombreuses années.