Гусь, также известный как Великодворье или Парахино, был выделен из села Великого Двора и упоминается в окладных книгах Старорязанского стана 1676 года как село с церковью Воскресения Господа Бога и Спаса нашего Иисуса Христа. В документах полоняночного сбора 1681 года и в отчете о количестве церквей в Рязанской епархии за 1735 год церковь в селе Гусе также называется Воскресенской.

Тем временем управляющий имением помещика Александра Федоровича Уварова, подпоручик М.П. Рыков, в своем прошении к преосвященному Симону от 7 декабря 1790 года писал, что в селе Гусе находится деревянная церковь во имя великомученицы Параскевы, которая сильно обветшала и в нее почти невозможно войти. Поэтому он просил разрешение на строительство новой деревянной церкви на том же месте с приделом архангела Михаила. В соответствии с просьбой Рыкова и приложенным к ней письмом генерал-майора А.Ф. Уварова, журнальным определением Консистории от 29 апреля 1791 года Рыкову было разрешено начать строительство новой церкви. В 1792 году Рыков подал прошение об освящении новопостроенной церкви в честь мученицы Параскевы с приделом архангела Михаила и о выдаче нового антиминса. Позднее при этой церкви был построен придел Христорождественский.

Из просьбы Рыкова об освящении новой церкви в Парахине видно, что иконостасы и иконы были перенесены из старой церкви. В сентябре 1810 года причт Пятницкой церкви и старосты деревень просили у епархиального начальства разрешение разобрать иконостасы в Пятницкой церкви и установить их более надежно, так как они покосились и могли упасть. Также просили разрешение на реставрацию потускневших и поврежденных икон, что было одобрено.

Однако из-за нехватки средств прихожане задержали исправление ветхостей, и Консистория обратилась к Губернскому правлению с просьбой ускорить этот процесс. Если церковь не подлежит ремонту, предлагалось выяснить у прихожан, не хотят ли они построить каменную церковь или присоединиться к другому приходу. Губернское правление поручило касимовскому земскому суду собрать необходимые сведения. Ответ суда и дальнейшее развитие дела по ремонту Пятницкой церкви неизвестны, но в 1866 году она была обновлена и значительно расширена.

Начало XVIII века оказалось неблагоприятным для Парахинского прихода. 11 сентября 1702 года по указу митрополита староста поп Иван осмотрел дворы в селе Гусе, так как поп Аникей жаловался, что крестьяне разошлись по разным местам. По его отчету, в селе было два двора помещиков, 25 крестьянских дворов, а в 1735 году осталось только 8 дворов.