La première mention de l'église dans le village de Kozinka date de 1780. Dans les « Notes économiques sur le cadastre général » de l'époque, il est mentionné : « Sloboda Kozinka, Verbok aussi. Église en bois de Jean Baptiste ». Cette église se trouvait sur une élévation de la rive gauche de la Vorskla et était le centre du village au XVIIIe et au début du XIXe siècle. Au début du XXe siècle, elle a été renommée église de la Vierge, où des services étaient célébrés jusqu'en 1928.

Une habitante du village, Anna Alexeïevna Kostenko (1908, 2002), racontait que l'église avait été renommée en l'honneur de la Vierge Marie, car en 1896, il a été décidé de construire une nouvelle église en briques de Jean Baptiste. Au début du XXe siècle, des services étaient célébrés dans les deux églises. Selon Kostenko, les services de Pâques étaient particulièrement mémorables, lorsque les cloches des deux églises résonnaient. Après le cri « Christ est ressuscité », les gens passaient d'une église à l'autre, se félicitant. En 1928, la construction d'une école a commencé, pour laquelle des structures en bois de l'église de la Vierge ont été utilisées. Maintenant, à sa place, il reste un trou où l'on peut trouver des objets de vaisselle d'église. Dans la partie nord-ouest du village, on célèbre encore la Nativité de la Vierge.

En 1896, la communauté villageoise a décidé de construire un nouveau temple en l'honneur de saint apôtre Jean Baptiste à l'occasion de l'accession au trône de Nicolas II. Parfois, il était appelé église Nikolaïevskaïa. La construction était réalisée par les habitants de Kozinka. Selon les souvenirs des anciens, c'était la quatrième et dernière église de l'architecte qui l'a conçue. La petite-fille de l'un des bâtisseurs, Anna Ivanovna Donoshenko, a conservé les souvenirs de son grand-père : « Les maîtres allaient dans d'autres villages, étudiaient les églises et en 1900, ils ont commencé la construction ».

L'église de saint apôtre Jean Baptiste se compose d'un clocher, d'une salle de banquet et d'une abside. Les angles sont décorés de pilastres et de « kokoshniks ». Quatre petites tours sont décorées de niches en arc et surmontées de tentes. La combinaison des dômes est inhabituelle : un dôme en tente et un dôme « en oignon ». La hauteur de l'église est de 54 mètres, et celle du clocher, de 82 mètres. La construction s'est achevée en 1907, et l'été de la même année, le temple a été consacré. Selon les souvenirs de Marfa Mikhaïlovna Tcherkaï, les femmes du village ont tissé un tissu qu'elles ont étendu autour de l'église pour le repas de fête. Dans les années 30, le temple a pu être préservé, bien que les services n'aient pas été célébrés de 1928 à 1941, et il a été utilisé comme entrepôt de grains. Pendant la guerre, le temple n'a pas été endommagé.

La forme en croix de l'église est visible à l'intérieur. Dans le chœur gauche se trouvait une loge et une cuve pour le baptême, maintenant il y a une salle de banquet. De ce chœur, un escalier en colimaçon en bois mène aux cloches. Dans le chœur droit se trouvait une sépulture, maintenant il y a un « petit temple », appelé le temple de la Vierge. En 1989, il a été consacré par l'évêque de Koursk et de Belgorod, Juvenal. Le tambour du dôme principal a 12 fenêtres en arc, décorées de voiles. Des fresques représentant les apôtres, réalisées au début du XXe siècle, y sont conservées. Parmi les trésors de l'église, les icônes « Nativité de Jean Baptiste » et « Décollation de Jean Baptiste », ainsi que les reliques de saint Pantéléimon. Le chœur est en bois, fabriqué dans les années 70 du XXe siècle. L'ancien chœur a été évacué avant l'occupation, et il n'a pas été possible de le retrouver.