В 1897 году на заседании городской думы обсуждался вопрос о преобразовании мужской гимназии в полную гимназию и строительстве для неё нового здания. В то время прогимназия находилась в частном доме купца Г.И. Чувалджи, который сохранился до наших дней на улице К. Маркса, 49.

26 марта (7 апреля) 1898 года Черноморская губерния приняла решение выделить 5000 рублей из капитала на строительство здания для Новороссийской мужской гимназии. 27 апреля (9 мая) Городская Дума выделила участок на землях военно-инженерного ведомства, где ранее находилось Константиновское укрепление (ныне парк им. В.И. Ленина), для строительства гимназии.

С 1 (13) июля 1898 года мужская прогимназия была преобразована в восьмиклассную классическую гимназию, директором которой стал Федор Владимирович Лях. Благодаря его поддержке и руководству к концу 1900 года новое здание гимназии на улице Дмитриевской (ныне ул. Энгельса) было построено.

Проект разработал московский инженер и архитектор Лукашевич. Двухэтажное здание, впечатляющее своими размерами и красотой, выполнено в симметричном плане. Красные кирпичные стены гармонично сочетаются со светлыми архитектурными элементами. Все учебные помещения были четко спланированы. На второй этаж вела красивая парадная лестница, где располагались актовый зал на 500 мест с балконом и рекреационный зал для отдыха гимназистов. Также на втором этаже находилась домовая церковь. По воспоминаниям жительницы Новороссийска Т.С. Новак, в домовую церковь приходили и ученицы женской гимназии. «По одну сторону стояли мальчики, а по другую девочки, шла служба». При гимназии была квартира директора.

В 1904 году Ф.В. Лях предложил Городской Думе пристроить гимнастический зал к основному корпусу гимназии для занятий гимнастикой. Однако из-за высокой стоимости проекта (15000 руб.), выполненного архитектором К.В. Гержманом, предложение было отклонено. Позже гимнастический зал все же построили; он стал местом создания в 1912 году знаменитого Новороссийского футбольного клуба «Олимпия» и долгое время служил спортивной базой города.

Новороссийская мужская гимназия была одним из крупных и красивых зданий города и часто изображалась на открытках. Учебный год продолжался 240 дней с 16 августа по 1 июня.

В гимназии изучались: Закон Божий, русский язык, славянский и словесность, латинский, греческий, немецкий, французский, история, география, математика, чистописание, гимнастика и рисование. В женской гимназии дополнительно преподавали педагогику, рукоделие и пение.

Гимназия считалась элитным учебным заведением, и лишь 5% учеников принимали из разночинцев, при этом они должны были быть одаренными.

В 1920 году мужская гимназия была преобразована в 1-ю советскую школу 2-й степени (среднюю), а в гимнастическом зале разместилась спортивная секция Всеобуча. В 1925 году школу реорганизовали в 3-ю Советскую трудовую школу, а с 1928 года она стала фабрично-заводской девятилеткой (ФЗД №3), через четыре года, средней (смешанной) школой №3 с десятилетним образованием.

Во время Великой Отечественной войны (1941-1945 гг.) здание школы №3 стало одним из последних пунктов обороны города. С 1 по 8 сентября 1942 года здесь находился штаб Новороссийского оборонительного района под командованием контр-адмирала С.Г. Горшкова. В ходе боев здание сильно пострадало.

После освобождения города восстановлением здания занимался трест «Новороссийскстрой». 1 сентября 1948 года школа вновь открылась как женская средняя школа №3. Она имела 16 светлых и удобных классных комнат, 3 кабинета для физики, химии и естествознания, пионерскую и комсомольскую комнаты, школьный буфет и другие служебные помещения. В конце 1950-х годов школа снова стала смешанной.

Многие выпускники школы стали видными деятелями страны и города. В. Нестеров и Г. Мар стали докторами медицинских наук, П. Коганов, Ю. Иванюк и К. Мацютин, известными специалистами в области музыки, Р. Новаков, лауреатом Государственной премии, Г. Петрова, Героем Советского Союза. Среди учеников школы №3 были В.И. Сердюк, директор художественной школы, и известный историк К. Крымпоха.

С 1981 года в здании размещался школьный учебно-производственный комбинат (УПК). С 1990-х годов и по настоящее время здесь находится технико-экономический лицей.