Музей был открыт 21 июня 1996 года в доме № 41 на улице Толмачёва, ранее называвшейся Колобовской.

В этом доме жила Мария Якимовна Алексеева, первая супруга Дмитрия Наркисовича Мамина-Сибиряка. Они познакомились в 1877 году в Нижней Салде.

В марте 1878 года Дмитрий Наркисович переехал в Екатеринбург и сначала снимал квартиры: у Е. И. Зубринской на Большой Вознесенской улице, ныне улице Карла Либкнехта, у сестёр Фурман на той же улице, у Безбородова на Разгуляевской улице, ныне улице Гоголя, и в других местах.

В 1880 году он переселился в этот дом и жил здесь до 19 августа 1883 года.

С 1881 года его очерки и рассказы начали публиковаться в прогрессивных российских журналах и газетах. Позже он собрал лучшие из них в цикл «Уральских рассказов», который вышел отдельной книгой в 1888 году.

Мария Якимовна, обладая высокой культурой и образованностью, предлагала Дмитрию Наркисовичу новые темы для его произведений, включая роман «Горное гнездо», рассказывая о жизни уральских заводов.

В этом доме шла работа над романом «Приваловские миллионы». На последней странице последнего варианта писатель оставил запись: «Кончена эта рукопись в Екатеринбурге, в Колобовской улице, в доме Алексеевой, 1883 год. 2 сентября в 1 час 34 минуты пополудни».

Дом посещали представители прогрессивной общественности Екатеринбурга.

По вечерам здесь собирался «маминский кружок», в который входили юристы Н. Ф. Магницкий, И. Н. Климшин, М. Е. Кетов, А. А. Фолькман, писатель Н. В. Казанцев и другие. Они обсуждали события России и Урала, новинки литературы и искусства.

Дмитрий Наркисович был отличным рассказчиком и остроумным собеседником. Мария Якимовна прекрасно играла на рояле. По воспоминаниям друзей писателя, встречи в доме были чрезвычайно интересными.

13 января 1982 года решением Свердловского исполкома городского Совета здание на улице Толмачёва, 41 было передано музею.

В мае 1990 года дом был отреставрирован и открыт для посетителей.

С открытием музея, к 130-летию со дня рождения Антона Павловича Чехова и к 100-летию его путешествия на остров Сахалин, прошла выставка «Мир Чехова», на которой были представлены подлинные вещи Чехова из Ялтинского музея.

В музее находятся документы, рассказывающие об известных екатеринбуржцах, современниках Мамина-Сибиряка, а также о театральной и музыкальной жизни города того времени.