Здание, где ранее располагался музей княгини Тенишевой «Русская старина», является памятником архитектуры и объектом культурного наследия. До революции здесь находился историко-этнографический музей, основанный княгиней Марией Клавдиевной Тенишевой, а позже, картинная галерея. Здание, построенное в 1903-1905 годах в неорусском стиле, расположено недалеко от центра города на пересечении улиц Тенишевой и Исаковского. Оно было специально возведено для размещения коллекции Тенишевой, которая ранее находилась в селе Талашкино и включала тысячи экспонатов, связанных с историей, декоративно-прикладным и народным искусством, а также иконы, рукописи и оружие.

Изначально Тенишева планировала перевезти коллекцию в Смоленск и разместить её в Никольской башне Смоленской крепостной стены, но реставратор Петр Петрович Покрышкин воспротивился этому. Тогда княгиня Святополк-Четвертинская, подруга Тенишевой, предоставила участок земли для строительства музея, и в 1905 году коллекция была размещена в новом здании. В 1911 году Тенишева передала свою коллекцию Московскому археологическому институту, филиал которого открылся в Смоленске в 1910 году, и здание также было передано институту. Основным автором проекта здания был художник Сергей Васильевич Малютин, а сама Тенишева участвовала в проектировании вместе с художником Виктором Васнецовым. Здание музея считается одним из лучших примеров неорусского стиля в Смоленской области. Оно представляет собой двухэтажный куб с подвалами и мезонином, обращённым на тыльную сторону. С западной стороны к основному объёму примыкает вестибюль, фасады которого оформлены по проекту художников Зиновьева и Бекетова. Между цоколем и первым этажом расположен пояс из орнаментальной кирпичной кладки. Фриз, карниз вестибюля и фигурные наличники выполнены из белого кирпича. Над главным входом в тимпане среди растительного орнамента размещены вензель Тенишевой «МТ», дата начала строительства «1903» и надпись «Русская старина». Изначально здание украшали цветные стёкла и черепичная кровля. Внутри находятся восемь больших экспозиционных залов с кирпичными сводами без дверей.

После революции имущество музея было национализировано. В мае 1920 года в здании бывшей губернской земской управы открылась художественная галерея, которая в 1931 году объединилась с историко-этнографическим музеем и разместилась в здании музея Тенишевой, получив название Музея изобразительных искусств имени Надежды Константиновны Крупской. Музей стал частью ОГБУК «Смоленский государственный музей-заповедник».

С 2010 года Смоленская художественная галерея располагается в бывшем здании Александровского реального училища на улице Коммунистическая, 4. В здании «Русская старина» в это время находился музей «Смоленский лен», который позже переехал в Никольскую башню. На улице Тенишевой, 7 планируется воссоздание музея «Русская старина».