Доходный дом в Малом Знаменском переулке был возведен в 1912 году для известного математика и педагога Карла Карловича Мазинга, рядом с возглавляемым им Реальным училищем. Семья Мазинга владела значительным участком земли в этом районе, который ранее принадлежал различным владельцам, включая гоф-интенданта П.И. Машкова и полковника Я.Д. Ланского. В XIX веке, после войны 1812 года, участок был приобретен для московского отделения Придворной конюшенной конторы, где разместился Шталмейстерский дом. В 1898 году владение перешло к Карлу Мазингу.

После приобретения участка Мазинг начал строительство нового здания для Реального училища, завершенного в 1901 году. Тогда же был построен и доходный дом на углу Знаменского и Колымажного переулков, который не сохранился. В 1912 году рядом с училищем был возведен еще один доходный дом, где одна из квартир предназначалась для семьи Мазинга. Проект здания разработал архитектор Григорий Федорович Ярцев, который ранее преподавал в училище Мазинга и был известен как художник-пейзажист.

Шестиэтажный доходный дом был построен с оригинальным оформлением фасада и интерьеров. Неоклассический фасад здания асимметричен, украшен эркерами и отличается минималистичным декором. Вход в парадную и окно над ним оформлены богато, с лепными элементами. Внутреннее оформление здания сохранилось в значительной степени, включая парадный вестибюль и лестницу. Мемориальная квартира Карла Мазинга сохранилась почти в первозданном виде, включая мебель начала XX века.

Здание признано объектом культурного наследия регионального значения. В квартире Мазинга часто бывали известные современники, такие как оперный певец Л.В. Собинов и писатель В.А. Гиляровский. В доме проживали также пианист Д.С. Шор, актер М.Ф. Астангов, физик А.Я. Модестов и ученый Н.Р. Брилинг.