El pueblo de Gubtsevo, situado a 60 verstas de Vladimir y a 70 verstas de la ciudad del distrito, perteneció hasta 1764 al Monasterio Chudov de Moscú. Sin embargo, no se sabe cuándo y quién lo cedió al monasterio.

Según la tradición de la crónica eclesiástica local, la iglesia del pueblo de Gubtsevo se encontraba anteriormente entre el pueblo y la aldea de Pershkova y estaba dedicada al santo mártir Leontius. Esto se confirma por el hecho de que el lugar supuesto de la antigua iglesia todavía se llama "popovskij oselok", los habitantes de la aldea de Pershkova celebran el día de San Leontius, y la iglesia se menciona en una inscripción de un Evangelio manuscrito de 1615. Sin embargo, no hay pruebas documentales exactas sobre la iglesia de Leontius.

En los libros de registro de las tierras monásticas y eclesiásticas del distrito de Vladimir de 1637-1647 se indica que en el pueblo de Gubtsevo ya existía una iglesia de madera en honor a la santa gran mártir Paraskeva con una capilla dedicada a Alexio, metropolitano de Moscú. La iglesia contaba con un sacerdote y un prosvirnik, y en el pueblo había la casa del monasterio, 5 casas de los hijos del monasterio y 8 casas de campesinos. En 1720, la antigua iglesia se deterioró, y en su lugar se construyó una nueva iglesia de madera también en honor a la santa gran mártir Paraskeva, que se encuentra en el cementerio.

En 1848 comenzó la construcción de un templo de piedra en el lugar de la iglesia de madera. La mesa fue consagrada en 1849, y los trabajos en el templo principal no se completaron hasta 1872. En 1891, se añadió otra capilla en la mesa. Así, en el templo hay tres altares: el principal, en honor a la santa gran mártir Paraskeva, en la mesa, en honor a San Nicolás el Milagroso y San Juan Bautista. La iglesia está bien equipada con utensilios, vestimentas, santos íconos y libros de servicio. Entre los íconos, destacan por su antigüedad los íconos de la santa mártir Paraskeva, de la Madre de Dios de Smolensk, de San Nicolás el Milagroso y de las festividades de los doce, aunque en 1894 fueron renovados. El ícono de la santa mártir Paraskeva en una vestimenta dorada de plata es especialmente venerado por los feligreses y los habitantes de los alrededores como "aparecido". En el lugar de la aparición del ícono se ha excavado un pozo, sobre el cual se ha construido una capilla.

En el clero de la iglesia figuran un sacerdote y un salmista. Su sustento se asegura a través de las ofrendas de pan de los feligreses y de las correcciones de servicios, llegando a 520 rublos al año. Las casas de los miembros del clero se encuentran en tierras de la iglesia. La parroquia incluye el pueblo de Gubtsevo, la aldea de Davydovo y las aldeas de Tolstikovo y Pershkovo, situadas a 3-5 verstas de la iglesia, donde según los registros clericales figuran 782 hombres y 841 mujeres. En la aldea de Davydovo funciona una escuela popular de la tierra.