В 1875 году председатель попечительского совета курской Мариинской женской гимназии Д. Г. Жаворонков обратился к городскому голове А. В. Тихонову с просьбой выделить гимназии участок земли на углу Чистой и Флоровской улиц, принадлежащий городу.

Переговоры продолжались 25 лет, и только в 1900 году попечительский совет получил участок в центре города. Был заказан проект нового здания у инженера-архитектора А. А. Баумиллера. Уже 20 августа 1900 года проект был рассмотрен, а 27 мая 1901 года состоялась торжественная закладка здания. Через 2,5 года строительство было завершено.

Новое здание, стоимостью 193,490 рублей, было большим для двухэтажного дома и имело мощный рустованный цокольный этаж. Его кирпичные фасады не были оштукатурены, из-за чего гимназию прозвали "красной".

Каждое утро в это прекрасно оборудованное здание приходили на занятия 779 гимназисток. В полуподвальном этаже находились раздевалки, комнаты учениц, буфет, класс рукоделия и жилые помещения для служителей гимназии. На первый этаж вела красивая широкая лестница.

На первом этаже располагались обширные классы, библиотека, кабинеты физики и естествознания, учительская, канцелярия, архив, приемная комната начальницы гимназии и её квартира.

На второй этаж вела лестница с двумя маршами. Налево от входа находился большой зал на 1000 человек, а в остальных частях этажа, классные комнаты и комната для рисования.

15 января 1909 года в здании гимназии произошел пожар, загорелся чердак над гимназическим залом. Пожар был потушен курскими пожарниками при участии 341 солдата курского гарнизона. В результате пожара пострадали крыша, стены и полы гимназии. К началу учебного года 1909-1910 здание было полностью восстановлено.

Во время Первой мировой войны в здании разместился 78-й эвакуационный госпиталь. Мариинская гимназия существовала в Курске до 1918 года, после чего её сменила 1-я Трудовая школа. В годы гражданской войны здесь находился штаб укрепленного района и палаты 80-го госпиталя.

В 1921 году в освободившемся здании разместился Рабоче-Крестьянский университет, готовивший партийных и советских работников на шестимесячных курсах.

Когда Курск стал областным центром, по решению СНК РСФСР от 22 июля 1934 года был создан педагогический институт, который разместился в здании бывшей гимназии. В 1935 году здание было решено надстроить и реконструировать по проекту архитектора К. Г. Петровского.

Во время войны институт был эвакуирован в Ижевск и Сарапул, а многие студенты ушли на фронт. После освобождения Курска в феврале 1943 года здание института оказалось в руинах. Оккупанты разграбили и сожгли мебель и оборудование. Частично эвакуированное имущество было возвращено, а здание восстановлено в 1948-1953 годах по проекту архитектора А. И. Лезина. В 1991 году рядом было построено новое 9-этажное здание института.

В 1994 году институт получил статус государственного педагогического университета.

В большом дворе бывшей гимназии строится храм-часовня "Во имя Кирилла и Мефодия" по проекту скульптора Вячеслава Клыкова. Это здание будет видно с улицы Кирова между корпусами университета и общежития.