В 1896 году Казанский учебный округ уведомил городскую управу о создании в Саратове с июля 1897 года второй мужской классической гимназии, финансируемой из казны, с обещанным денежным пособием от города. Сначала планировалось найти подходящее здание и с минимальными затратами переоборудовать его под гимназию. Наиболее подходящим оказалось здание бывшего духовного училища на Старо-Соборной площади (ныне русская классическая гимназия на Музейной площади). Гимназия начала учебный год с шестью классами и более чем двумястами гимназистами. В первый же год губернский инженер А.Н. Клементьев получил поручение составить проект и смету для строительства нового здания гимназии.

Проект здания гимназии уже разрабатывался, но место для него еще не было выбрано. После долгих обсуждений решили строить на пустыре на углу улиц Московской и Царевской (ныне Пугачевской). Чтобы ускорить строительство, городская дума призвала жителей Саратова внести добровольные пожертвования. Благодаря государственной казне, городскому бюджету и пожертвованиям необходимая сумма была собрана. 24 сентября 1900 года на выделенном участке торжественно заложили первый камень в фундамент будущей гимназии, и уже 20 сентября 1902 года учебный год продолжился в новом двухэтажном здании. В нем разместились 14 просторных классных комнат, актовый зал на 600 человек, специально оборудованные кабинеты, физический, естественнонаучный, рисовальный, а также две библиотеки, фундаментальная и ученическая.

Значительный вклад в формирование традиций гимназии внес директор и преподаватель английского языка А.А. Казаринов (1897-1907), который создал коллектив единомышленников, сохранившийся даже после революции.

В 1908 году директором школы стал В.Б. Каттерфельд (1908-1917), энергичный молодой педагог и ученый, который с энтузиазмом взялся за улучшение материальной базы: были переустроены спецслужбы, проведено электричество, установлены вентиляторы.

Гимназия активно участвовала в жизни города, организовывая экскурсии для воспитанников как по России, так и за ее пределами.

В 1914 году началась Первая мировая война, и к 1916 году возник дефицит свободных помещений из-за прибытия большого количества войск, размещавшихся в том числе и в гимназии. В 1917 году в здание вселили еще две женские гимназии: Е.Ф. Кузенковой и "Семья и школа". 16 июня 1918 года было принято решение о реорганизации второй мужской гимназии во вторую советскую школу второй ступени, а 14 октября 1918 года произошло объединение трех гимназий: бывшей второй мужской, женской Е.Ф. Кузенковой и "Семья и школа".

После революции в здании бывшей второй гимназии находились 12-я единая школа, эвакогоспиталь (1941-1945 гг.), библиотека и несколько факультетов Саратовского госуниверситета. С 1956 года здание занимает 67-я школа. Несмотря на ремонты и реконструкции, историческое здание сохранило свою узнаваемость.