Les premières mentions de l'église de Cosme et Damien à Barysh se trouvent dans les livres de cadastre du tsar Michel Fiodorovitch et du patriarche Philaret Nikititch et datent du début du XVIIe siècle, lorsque l'église a été détruite par des "gens lituaniens". Au XVIIIe siècle, l'église en bois a été restaurée en 1744 par le propriétaire Pierre Afanassievitch Bakhtine. Au début du XIXe siècle, elle était en ruine, et entre 1829 et 1834, le colonel Mikhaïl Petrovitch Bakhtine a construit un temple en pierre au nom des saints Cosme et Damien.

Le temple est réalisé dans le style Empire. L'élément principal de son architecture est un cube élevé de l'église avec un tambour lumineux massif et un dôme hémisphérique. Des portiques à quatre colonnes, désormais perdus, étaient adjacents aux côtés du cube. Les dômes de l'église et du clocher ne sont également plus conservés, et de nombreux détails architecturaux ont été perdus. Le clocher à trois niveaux, s'élevant au-dessus du bâtiment, est inhabituel. Son haut carré avec des arcs et un attique massif servait d'entrée au temple, au-dessus se trouvait un carré plus petit pour le carillon avec des ouvertures en arc, surmonté d'un niveau cylindrique avec un toit en dôme.

Près de l'église se trouve la tombe de Mikhaïl Petrovitch Bakhtine (1768-1838). Dans sa jeunesse, il a servi dans le régiment de dragons de Léib de Pskov, est tombé amoureux d'une jeune fille qui est devenue sa fiancée, mais est tragiquement morte avant le mariage. Bakhtine a durement vécu cette perte et est tombé malade, mais a pu se rétablir. Ayant pris sa retraite avec le grade de colonel, il est retourné dans son domaine. Bakhtine a activement participé à la préparation de la milice pour la guerre patriotique de 1812 et a été décoré de l'ordre de Saint-Vladimir de IVe classe. En 1833, n'ayant pas d'héritiers, il a fait don de 1,5 million de roubles pour la création d'un corps de cadets à Orel. Plus tard, il a encore donné 10 000 roubles et a vendu son domaine, et les fonds obtenus ont été envoyés au corps de cadets d'Orel. L'empereur Nicolas Ier l'a décoré de l'ordre de Saint-Vladimir de IIe classe et lui a attribué le titre de général de cavalerie. Le corps de cadets a été nommé corps de cadets Bakhtine. Sur la tombe de Bakhtine se trouvait autrefois un monument en forme de croix avec la figure d'un soldat, mais aujourd'hui seul le piédestal a été conservé. En 2005, une nouvelle plaque en granit noir avec une inscription en translittération a été installée sur la tombe.

En novembre 2008, le temple, en état de délabrement, a été recréé à un autre endroit. Le nouveau temple de Jean de Kronstadt à Briansk répète presque entièrement l'apparence de l'église de Cosme et Damien à Barysh, à l'exception d'un clocher plus haut et à quatre niveaux.