Калужская Николаевская мужская гимназия была основана 30 августа 1804 года на базе губернского четырехклассного училища и находилась под управлением Московского университета. Руководство и финансирование пансиона было поручено гражданскому губернатору. С самого начала калужская общественность активно поддерживала новое учебное заведение, предоставляя материальную помощь. Дворяне и купцы жертвовали книги и экспонаты для естественного кабинета, а также средства на содержание пансиона. Эта традиция продолжалась и в последующие годы, о чем свидетельствуют многочисленные источники.

Например, в 1814 году дворянство Калужской губернии решило в течение трех лет вносить по 30 копеек с каждой владельческой души в пользу пансиона. Благодаря этим пожертвованиям неприкосновенный капитал пансиона достиг 95 тысяч рублей ассигнациями. Проценты с этого капитала, вместе с ежегодной суммой из кабинета Его Величества, составляли 10 тысяч рублей постоянного дохода, что позволяло содержать в пансионе сыновей обедневших дворян. Основу для этого заложили первый директор гимназии Онисим Григорьевич Потресов и учитель истории Григорий Кириллович Зельницкий, которые также способствовали созданию первой типографии в Калуге, изданию журнала "Урания" и началу краеведческих исследований. В разные годы директорами и попечителями гимназии были известные личности: Семен Яковлевич Унковский, Семен Иванович Яновский и Сергей Васильевич Щербаков. Духовные наставники Иван Алексеевич Остроглазов и Александр Иванович Ростиславов также пользовались уважением.

В 1812 году, во время наступления Наполеона, гимназия была временно эвакуирована в Рязань. Новый устав 1828 года ввел социальную градацию в структуре учебных заведений: приходские училища для крестьян и мещан, уездные для купечества и офицерских детей, а гимназии, преимущественно для дворян. В 1810 году из 60 учеников гимназии 43 были дворянами. В 1896 году, когда число учащихся достигло 325, дворян было 229. В 1865 году гимназия стала классической с преподаванием латинского языка. В 1877 году в нее поступил философ Евгений Николаевич Трубецкой. Благодаря губернатору Александру Александровичу Офросимову был проведен капитальный ремонт гимназии, а в 1903 году освящена домовая церковь. Патриарх Иерусалимский Дамиан подарил церкви икону с частицей камня от Гроба Господня. Городская дума учредила стипендию в честь епископа Макария. С мая 1903 года гимназия стала называться Николаевской.

Первая мировая война стала испытанием для гимназии: здание отдали под госпиталь, а занятия перенесли в женскую гимназию. В 1915-1916 годах гимназисты помогали в сельскохозяйственных работах и поддерживали семьи фронтовиков. В 1917 году пансион был закрыт, а в 1918 году гимназия преобразована в Советскую трудовую школу.