Покровский храм в Калуге, согласно описи 1626 года, назывался Церковью Всемилостивейшего Спаса и Покрова Святей Богородицы, в отличие от другого храма с тем же названием. В описи 1685 года он упоминается как церковь Покрова Пресвятой Богородицы с приделом Происхождения Честных Древ.

Этот храм находился чуть севернее нынешнего, на месте, отмеченном позже каменным столбом. Сохранившееся до наших дней здание церкви Покрова "на рву" было построено в 1687 году. Оно напоминает московские бесстолпные храмы второй половины XVII века. Основной объем составляет двухсветный четверик, к которому с востока примыкают три пониженные апсиды алтаря, а с запада, трапезная и колокольня. С южной и северной сторон расположены крыльца на столбах-кубышках с двойными арками и "гирькой" между ними. В новейшее время между столбами крылец были встроены стенки, что исказило формы боковых входов в храм.

В храме хранились святыни, такие как икона "Покрова Пресвятой Богородицы", которая находилась в трапезной с момента основания храма и была особо почитаема прихожанами. Согласно преданию, во времена патриарха Никона, после исправления книг и начала раскола, покровский священник, не приняв новшеств, ушел к раскольникам, взяв с собой эту икону. Умирая, он завещал вернуть ее в прежнюю церковь. Сейчас местонахождение иконы неизвестно.

"Петровская" икона Богоматери также считалась чудотворной. До 1864 года она находилась в доме калужского гражданина В.П. Сапожникова. Первообраз этой иконы был в Московском Успенском Соборе. Калужский список был помещен в отдельный киот. Первообраз был написан св. митрополитом Петром, когда он был игуменом на Волыни. Перед ней молился Великий князь Иван Васильевич III. Патриарх Иов брал ее с собой, чтобы убедить Бориса Годунова принять царство. В 1613 году рязанский архимандрит Феодорит отправился с этой иконой в Кострому к Михаилу Федоровичу Романову для призвания его на царство.

К храму относилась каменная часовня, построенная в 1823 году на краю Березуевского оврага. По преданию, здесь находился большой курган с погребениями. В этой часовне на Семике, в четверг на 7-й неделе после Пасхи, служили панихиды по усопшим. Также к храму принадлежала часовня на площади Мясницких рядов.

8 сентября 1903 года при храме было создано церковно-приходское Братство. В 1905 году в его состав входили два постоянных члена Попечительного совета: местный священник Михаил Авдеевич Угорский и церковный староста Григорий Афанасьевич Масленников, которому было поручено хранение и расходование средств и имущества. В Братство также входило 7 избранных попечителей. В 1905 году оно помогало нуждающимся бедным людям как из Покровского прихода, так и за его пределами. Помощь оказывалась в виде единовременных пособий перед праздниками и ежемесячных выплат в зависимости от семейного положения и средств братства. Просветительская деятельность включала создание библиотеки.

По плану землемера Голицкого и решению Калужского окружного суда от 23 ноября 1910 года, земли при храме составляли 895 кв. саженей. К храму было приписано 76 дворов с 66 мужчинами и 142 женщинами.

Согласно данным Калужской епархии, церковь была закрыта в 1930 году. В течение 59 лет (до 1 января 1990 года) она использовалась как инкубатор Производственного Объединения "Калужское". Затем здание храма служило концертным залом областного музыкального общества.

В настоящее время храм открыт, и службы проводятся в освященном главном алтаре.