Le village de Bourgoun-Madjary a été fondé en 1743 près des ruines de l'ancienne ville tatare de Madjary et s'appelait à l'origine Kouban Ousvyat.

Depuis 1764, ces terres appartenaient au procureur général de l'Empire russe A. A. Viazemski. En 1794, le général à la retraite P. M. Skarjinski a acheté 14 000 dessiatines de terre à la veuve du prince Viazemski et les a plantées de vignes, dont le raisin a été importé de France. Le vin produit ici ressemblait à du bourgogne. Depuis lors, le village a été nommé Bourgoun-Madjary.

Les premiers habitants ont construit dans le village une église en bois, qui était en ruine au milieu du XIXe siècle. En 1854, une nouvelle église en pierre a été érigée au centre du village en l'honneur de la Sainte Trinité. Dans les années 1930, le temple a été fermé et transformé en silo à grains, perdant son dôme, ses fenêtres et ses portes. Cependant, depuis 1939, les services religieux ont repris, et des prêtres de Boudennovsk et de Levokoumski ont commencé à s'occuper des fidèles.

Au début des années 1990, avec la bénédiction de l'archevêque de Stavropol et de Bakou Gédéon et à l'initiative du chef de l'administration du village M. Klimov, de l'ataman de la société cosaque V. Kozlov et du paroissien M. Shemetov, des travaux de restauration du temple ont commencé. En 1992, Mikhaïl Shemetov a été ordonné prêtre, et en 1996, il a été nommé recteur de l'église de la Sainte Trinité, où il sert encore aujourd'hui. L'église de la Sainte Trinité est le seul monument architectural du XIXe siècle dans le district de Levokoumski.