La iglesia en el pueblo de Novoselki es conocida desde tiempos antiguos. Entre las iglesias del distrito de Bryansk, destruidas en la época de la Confusión (1604-1613), se menciona también la iglesia de madera en Novoselki. Para 1760, se había deteriorado, y el terrateniente local Vasili Alexandrovich Nebolsin construyó una nueva iglesia de piedra, que se ha conservado hasta nuestros días. La iglesia, consagrada en honor a la Icono de Kazán de la Madre de Dios, tenía tres capillas: en honor a la Icono de Vladimir de la Madre de Dios, en nombre del Santo Nicolás y en nombre de los Santos Atanasio y Cirilo, Arzobispos de Alejandría. En el siglo XIX, se añadió a la iglesia un campanario de tres niveles, y en 1885 se abrió una escuela parroquial.

En 1851, cerca de la iglesia de la Icono de Kazán de la Madre de Dios, con fondos del terrateniente Petr Pavlovich Nebolsin, se erigió una iglesia de piedra en honor a los Apóstoles Pedro y Pablo, en el sótano de la cual se encontraba la cripta de los Nebolsin. En la década de 1920, esta iglesia fue completamente destruida.

En 1937, la iglesia fue cerrada. En su parte de verano se instaló un almacén de granos, y en la parte de invierno, un establo.

En 1998, la comunidad parroquial fue restaurada. Actualmente, se ha restaurado la capilla de invierno de la iglesia, consagrada en nombre del Santo Nicolás, donde se llevan a cabo los servicios religiosos.