На окраине старинного центра города, на крутом берегу Оки, расположена церковь, известная как Знаменская, что на Зеленой. Зеленым называют местный источник, находящийся рядом с Окой, который издавна считался самым чистым в Калуге. Храм принадлежит Русской Православной Старообрядческой церкви.

В описи 1626 года храм упоминается как «церковь во имя великомученицы Варвары с Никольским приделом за старым острогом». В XVII веке это была богатая церковь, владевшая в Калуге наибольшими земельными угодьями, площадью 1600 квадратных сажен. В 1685 году церковь неожиданно меняет свое название, и в документах она уже упоминается как Знаменская, что на Зеленой, с приделом великомученицы Варвары. В то время церковь была деревянной, с пятью колоколами. Каменный храм был построен вместо деревянного в 1720 году на средства купца Ланина и других прихожан и хорошо сохранился в своем первоначальном виде. Пять глав, венчающих храм, трехапсидный алтарь, невысокая шатровая колокольня, несимметрично пристроенный придел и некоторая грациозность и правильность отдельных частей здания представляют собой переходную ступень в архитектуре от древних построек русского стиля к постройкам конца XVII и XVIII веков.

Храм функционировал до 1937 года, а в декабре 1941 года оказался в центре боев за освобождение Калуги от оккупации, но, к счастью, уцелел. В советское время здание использовалось как склад текстильной продукции. Старожилы вспоминают, что после передачи храма Церкви с трудом очищали слои застывшей олифы. В некоторых местах пол осел, а штукатурка осыпалась как внутри, так и снаружи. Внешние украшения, колеры, иконы и элементы внутреннего убранства не сохранились. В 1960 году церковь Знамения была признана памятником архитектуры и градостроительства республиканского значения.

В то время были проведены работы по сохранению храма, в том числе перекрыты железом колокольня и купола. После закрытия храма в тридцатых годах местным старообрядцам приходилось использовать для службы то один, то другой частный дом. Непосредственно перед передачей храма Калужской старообрядческой общине богослужения проходили в маленьком Никольском храме на окраине города, который отличался от соседних построек лишь главкой с крестом на двускатной крыше. По большим праздникам молящиеся из-за тесноты вынуждены были стоять на улице.

В марте 1989 года Калужский облисполком удовлетворил просьбы старообрядческой общины о предоставлении ей более вместительного молитвенного здания. 2 марта 1995 года церковь была освящена митрополитом Алимпием в сослужении протоиерея Леонида Гусева, иерея Валерия Осташенко и чтеца Владимира Проткуна.

Основной храм было решено оставить Знаменским, в честь иконы Пресвятой Богородицы из Великого Новгорода. Придел был освящен во имя святителя Николы. Позднее городские власти вернули улице ее историческое название, Знаменская.