Здание было возведено в период с 1894 по 1897 годы по проекту архитектора и секретаря Петербургского общества архитекторов, гражданского инженера А. П. Максимова. Финансирование строительства обеспечил капитал, завещанный Пензе бывшим губернатором генерал-лейтенантом Н. Д. Селиверстовым. Место для строительства выбрал душеприказчик Селиверстова, сенатор П. П. Семенов, более известный как путешественник и географ Семенов-Тян-Шанский. Он стал пожизненным попечителем училища. Руководство строительством осуществлял пензенский епархиальный архитектор А. Е. Эренберг.

Официальное открытие рисовальной школы имени Н. Д. Селиверстова, как первоначально называлось училище, состоялось 2 февраля 1898 года. В тот же день открылся художественно-промышленный музей, или картинная галерея, которая переехала сюда из здания ремесленной школы имени Ф. Е. Швецова на Никольской улице.

Первым директором училища стал художник-передвижник и академик живописи К. А. Савицкий. Благодаря ему, а также художнику-передвижнику Н. К. Грандковскому, скульптору К. А. Клодту, живописцу П. И. Коровину и другим преподавателям, в Пензенском художественном училище утвердились реалистические методы преподавания изобразительного искусства. Эти традиции продолжили академик живописи Н. Ф. Петров, возглавлявший училище с 1910 по 1918 годы, и заслуженный деятель искусств РСФСР И. С. Горюшкин-Сорокопудов, который проработал в училище почти пятьдесят лет.

Многие выпускники училища стали выдающимися мастерами, прославившими город не только в России, но и за ее пределами. Среди них В. Е. Татлин, один из основоположников художественного конструирования в стране и автор проекта памятника-башни III Интернационалу; А. В. Лентулов, один из организаторов творческого объединения «Бубновый валет» и Общества московских художников; В. Д. Фалилеев, мастер цветной гравюры и офорта; Г. К. Савицкий, сын первого директора училища, и Г. Н. Горелов, действительные члены Академии художеств СССР; А. Е. Карев, профессор Всероссийской академии художеств; И. В. Космин, член-корреспондент Академии художеств; В. В. Волков, народный художник Белорусской ССР; Г. М. Гюрджан, народный художник Армянской ССР; У. Т. Тансыкбаев, народный художник СССР и другие.

В советский период учебное заведение неоднократно меняло название: с 1918 года оно называлось государственными художественными мастерскими, с 1921 года, художественно-техническими и педагогическими мастерскими, а с 1924 года, художественно-педагогическим техникумом. В 1955 году Пензенскому художественному училищу было присвоено имя его первого директора К. А. Савицкого.