Художественный музей в Рязани был основан в 1913 году благодаря инициативе местных энтузиастов, которые создали «Общество Рязанского художественно-исторического музея имени профессора Ивана Петровича Пожалостина». В состав Общества вошли художники из Рязани, такие как Александр Александрович Киселёв-Камский, Владимир Павлович Соколов, Сергей Андреевич Пырсин, а также представители местной интеллигенции, включая служащих, врачей и учителей. Первые экспонаты музея были получены в дар от московских художников и включали коллекцию рисунков и гравюр профессора Императорской Академии художеств И. П. Пожалостина.

В январе 1915 года музей перешел под управление города и 23 марта того же года открыл свои двери для посетителей. В его каталоге значилось 72 экспоната, среди которых было около пятидесяти живописных и графических работ, многие из которых до сих пор представлены в постоянной экспозиции русского искусства начала XX века. Экспозиция размещалась в здании городского Романовского училища на Семинарской улице, где музею временно выделили зал и две комнаты. Сегодня это здание, выполненное из красного кирпича, является одним из корпусов Рязанского государственного университета им. С. А. Есенина.

В 1918 году музей стал частью Губернского историко-краеведческого музея. В 1938 году художественный отдел этого музея был преобразован в Рязанский областной художественный музей. Сначала музей располагался в отдельном двухэтажном каменном здании Консистории XVII века, архитектором которого был Ю. К. Яршов, на территории Рязанского кремля.

С 1980 года музей находится в памятнике архитектуры русского классицизма конца XVIII, начала XIX века, архитектор которого неизвестен, но предположительно принадлежал кругу М. Ф. Казакова. Здание, ранее принадлежавшее рязанскому купцу Гавриле Васильевичу Рюмину, было передано его сыном, Николаем Гавриловичем, Рязанской губернской гимназии для пансиона дворянских детей в 1833 году. В 1868 году к восточной стороне здания пристроили двухэтажное помещение для алтарной части гимназической церкви во имя святителя Николая, освященной в 1869 году. Сейчас это вход в музей со стороны улицы Свободы. В 1998 году музею вернули имя И. П. Пожалостина.

Постоянная экспозиция музея дополняется ежемесячными выставками из его фондов, а также из собраний других музеев страны. Здесь проходят персональные и групповые выставки современных художников из Рязани, Москвы, Петербурга и других городов России. Лучшие произведения из коллекции музея выставляются на международных выставках.