Небольшой одноэтажный деревянный дом с мезонином был возведен после пожара в Москве в 1812 году и сохранился благодаря тому, что с 1843 по 1847 годы в нем жил русский писатель и мыслитель Александр Герцен. В этом "малом" доме он проживал с семьей и работал над произведениями: повестями «Сорока-воровка», «Доктор Крупов», романом «Кто виноват?» и циклом философских сочинений «Письма об изучении природы». Ранее Герцен жил неподалеку с родителями в "большом" доме 25/9, который был снесен в 1998 году, и на его месте теперь стоит бетонная копия.

Позже дом переходил к разным владельцам, но сохранял свой внешний вид. В 1920-х годах он был описан в романе-фельетоне Ильи Ильфа и Евгения Петрова «Двенадцать стульев» как «Общежитие имени монаха Бертольда Шварца»:

«…остановились на Сивцевом Вражке. Что это за дом?, спросил Ипполит Матвеевич. Остап посмотрел на розовый домик с мезонином и ответил: Общежитие студентов-химиков имени монаха Бертольда Шварца. …По лестнице, шедшей винтом, компаньоны поднялись в мезонин. Большая комната мезонина была разрезана фанерными перегородками на длинные ломти, в два аршина ширины каждый. Комнаты были похожи на пеналы, с тем только отличием, что, кроме карандашей и ручек, здесь были люди и примусы».

В 1934 году в доме была организована литературная экспозиция, посвященная жизни и творчеству Герцена. Она включает интерьеры, воссоздающие атмосферу кабинета и гостиной писателя, уникальные портреты Герцена, его семьи и близких, личные вещи и редкие книги с автографами, рукописи и виды мест, связанных с Герценом в России и за границей.