Здание музея в Екатеринбурге является одним из старейших сохранившихся сооружений города. Оно было построено в 1730-х, начале 1740-х годов как госпиталь Екатеринбургского железоделательного завода и неоднократно меняло свое назначение и перестраивалось. Первоначально комплекс состоял из четырех корпусов, расположенных вокруг внутреннего двора: госпиталь находился в северо-восточной части, монетная экспедиция, в северо-западной, аптека, в южной, а пробирная лаборатория и меховая, в юго-западной, где также был заводской острог. Здание включено в перечень объектов культурного наследия Свердловской области, так как здесь прошло первое театрализованное представление в Екатеринбурге. 5 ноября 1843 года казанский антрепренер П. А. Соколов показал оперу «Женщина-лунатик» и водевиль «Ножка», что стало началом театральной истории города и датой основания первого Городского театра. В XIX веке здание неоднократно перестраивалось. В 1867 году здесь открылась Александровская городская богадельня, после чего на западном корпусе добавили второй этаж. В 1895 и 1898 годах внутри здания была построена Николаевская домовая церковь на средства купчихи Д. И. Лагутяевой, а в 1899 году над церковью возвели звонницу, которые не сохранились до наших дней.

В 1970-х годах, во время реконструкции «Плотинки», было решено сохранить здание, в то время как большинство корпусов бывшего Екатеринбургского завода снесли, а на их месте разбили Исторический сквер. В конце 1970-х годов появилась идея реконструкции и переоборудования здания под музей. Проект разработала группа архитекторов под руководством Г. Белянкина и А. Пташника. Ремонт завершился в 1985 году, и 9 мая 1986 года музей открылся. Внутренний двор перекрыли легкой кровлей, а проем, выходящий на набережную, оградили стеклянной стеной. Новый зал вместил коллекцию уральского чугунного литья, центром которой стал уникальный Каслинский чугунный павильон.

Второе здание Екатеринбургского музея изобразительных искусств, расположенное на улице Вайнера, 11, было построено в 1912 году по проекту архитектора К. Т. Бабыкина для магазина екатеринбургского купца Бардыгина. В 1936 году здесь разместились первые экспозиции Свердловской картинной галереи, которая в 1988 году получила статус музея изобразительных искусств. Здесь экспонировались коллекции русского художественного авангарда 1910, 1920-х годов, отечественного искусства 1920, 1950-х годов и более позднего периода. В большом выставочном зале проходили временные выставки. После реконструкции здания в 2020 году планировалось открытие центра «Эрмитаж-Урал», которое перенесли сперва на апрель 2021 года, а затем на конец первого полугодия 2021 года.

Свердловская картинная галерея была основана в 1936 году и переименована в Свердловский музей изобразительных искусств в 1988 году. В 1992 году, с возвращением городу его исторического названия, она стала Екатеринбургским музеем изобразительных искусств. Основу коллекции составило собрание Уральского общества любителей естествознания (УОЛЕ), которое до 1936 года находилось в составе Естественноисторического краеведческого музея, а затем было передано в картинную галерею.

Во время Великой Отечественной войны в здании галереи хранились сокровища Государственного Эрмитажа, эвакуированные из Ленинграда. Сотрудники Эрмитажа оказали значительное влияние на формирование коллекции, научную деятельность галереи и культурную жизнь города.

Позже в коллекцию музея вошли работы из Государственного Эрмитажа, Третьяковской галереи и Государственного музея имени Пушкина. К середине 1980-х годов с ростом коллекции возникла необходимость расширения фондовых и экспозиционных площадей. В 1986 году часть экспозиции перенесли в реконструированное здание бывшего госпиталя Екатеринбургского железоделательного завода на улице Воеводина, 5. Каслинский чугунный павильон был демонтирован, перенесен и отреставрирован.

С 1988 года музей начал активную деятельность по комплектованию собрания, организовав отделы русской живописи, декоративно-прикладного искусства и отечественного искусства XX века. Это был период активной научной и издательской деятельности музея, который приобрел широкую известность и установил контакты с научными и музейными центрами России и зарубежья.

В 2008 году при музее был создан Региональный Центр музейной педагогики и творческого развития детей и юношества, совместно с Российским центром музейной педагогики и детского творчества Русского музея. Центр развивает связи музея с системой школьного образования и реализует совместные проекты и программы.

С 2011 года музей проводит Международный фестиваль меццо-тинто, крупнейший на Урале художественный проект, объединяющий художников из более чем сорока стран, работающих в этой сложной графической технике.

В сентябре 2014 года директор Государственного Эрмитажа Михаил Пиотровский, губернатор Свердловской области Евгений Куйвашев и глава администрации Екатеринбурга Александр Якоб подписали соглашение о создании культурно-просветительского центра «Эрмитаж-Урал», открытие которого запланировано на 2020 год.

В 2015 году глава города Екатеринбурга Евгений Ройзман передал музею свою коллекцию наивного искусства, инициировав создание нового подразделения, «Музей наивного искусства». Открытие музея на улице Розы Люксембург, 18 состоялось в ноябре 2017 года.