Дом №4 находится почти в самом начале улицы и изначально включал палаты XVIII века. В первой трети XIX века они были интегрированы в новый трехэтажный дом с фасадами в стиле позднего классицизма.

В середине XIX века здесь разместилось Общество русских врачей. Верхние этажи занимала лечебница, а на первом этаже работала аптека. К концу XIX века Общество переехало в дом №25, и помещения заняли музыкальные курсы господина Решко. В школу принимали детей от семи лет на 4-5-летние курсы, стоимость обучения составляла 50 рублей.

Дом стал известен благодаря Альфонсу Леоновичу Шанявскому, русскому генералу, который активно занимался просветительской деятельностью. Он организовал здесь клуб для творческой интеллигенции и недорогие меблированные комнаты, сначала называвшиеся «Гуниб», а затем «Столица». Здесь останавливались такие известные люди, как писатель Иван Бунин, поэт Константин Бальмонт и художник Николай Сапунов. Цены на комнаты были доступны: от рубля до трех с полтиной за ночь. На первом этаже находилась демократичная чайная, где предлагали не только чай, но и недорогие обеды.

Иван Бунин в своем рассказе «Муза» упоминает: «Жил я на Арбате, рядом с рестораном «Прага», в номерах «Столицы». Днем работа у художника и дома, вечера нередко проводил в дешевых ресторанах с новыми знакомыми из богемы, приверженными бильярду и ракам с пивом».

В 1905 году Шанявский завещал дом и участок Городской Думе для создания Народного университета, доступного для всех желающих. Однако университет открылся только в 1908 году и в 1912 году переехал в специально построенное здание на Миусской площади.

В советское время в доме располагались коммунальные квартиры и различные конторы. При строительстве Калининского проспекта этот квартал, включая ресторан «Прага», планировали снести, но после долгих обсуждений его сохранили. В 1980-е годы дом был поставлен на капитальный ремонт, который затянулся на долгие годы.