En el período de 1759 a 1771 se construyó en Kolpna una nueva iglesia de piedra de dos altares, que reemplazó a la antigua de madera. Se ubicó en un nuevo lugar. En una de las publicaciones anteriores a la revolución se menciona que había dos iglesias en Kolpna. Esto probablemente se refiere a un corto período a mediados del siglo XIX, cuando se construyó una nueva iglesia de San Pedro y San Pablo en lugar de la deteriorada iglesia del siglo XVIII, que quedó en la memoria de la generación mayor. Su apariencia se ha conservado en fotografías. Actualmente, en el lugar de esta iglesia se encuentra parcialmente la Casa de Comunicaciones y el parque adyacente. La antigua iglesia de ladrillo, posiblemente, estaba cerca, en el lugar de la actual plaza asfaltada frente a la Casa de Comunicaciones, donde anteriormente se encontraba una capilla.

En el libro "Kolpna hace cien años", Nikolai Chernov señala que la nueva iglesia en el centro de Kolpna, probablemente construida en la década de 1870, era realmente hermosa.

En la década de 1930, la iglesia en Kolpna fue destruida, y no se celebraron servicios durante varias décadas. A principios de la década de 1990, la comunidad ortodoxa se dirigió al obispo de Orel y Livny, Paisio, con la solicitud de reanudar los servicios. Temporalmente, los servicios se llevaron a cabo en la sacristía de la iglesia que se había conservado.

En 1993, con la bendición del obispo de Orel y Bryansk, Paisio, se colocó la primera piedra de una nueva iglesia en honor a los santos apóstoles Pedro y Pablo, en un lugar fuera del pueblo, frente al cementerio. En 1995, el obispo Paisio bendijo el lugar de la futura iglesia, se colocó una cápsula y el primer ladrillo bajo el altar. La construcción se llevó a cabo con donaciones de benefactores y residentes de la zona. Durante más de diez años se levantaron las paredes de la iglesia. Con los fondos del jefe de la policía de tráfico de Kolpna, I.V. Novgorodov, se compraron cuatro cruces para las cúpulas. Con la ayuda del exjefe de la administración del distrito, M.N. Bukhtiyarov, se adquirió una "Campanario" de seis campanas. Se brindó gran apoyo por parte de V.A. Gromov, jefe del distrito de Kolpna, y los directores de la fábrica de azúcar: I.V. Potapenko, M.V. Pavlenko, Y.A. Sergeyev. El apoyo constante fue proporcionado por la presidenta de la cooperativa de consumo del distrito, I.A. Vasina, y los directores de las granjas: G.D. Polyanchikov, V.M. Sergeyev, V.M. Shelekhov, V.I. Belyaeva.

Un donante activo fue el presidente de ZAO NK "Nobel Oil", Grigory Gurevich, cuyos fondos cubrieron más de la mitad de los trabajos de acabado interior, se adquirieron candelabros, utensilios de iglesia y portavelas. Su regalo principal fue un icónico y único iconostasio.

La consagración de la nueva iglesia tuvo lugar el 2 de noviembre de 2006, en el día de la memoria del gran mártir Artemio. En la iglesia, en un lugar especial, cuelga un gran ícono de los santos apóstoles Pedro y Pablo, donado por el general de división Nikolai Shebanov.