L'histoire du village de Krasnoe (Krasny Kolodez) est indissociable de l'église d'Élie le Prophète. Il est impossible de déterminer la période durant laquelle Krasnoe a existé sans cette église. Dans une lettre du recteur de la cathédrale de la Trinité de la ville d'Olychansk à l'autorité ecclésiastique en 1660, il est mentionné : "Dans la ville d'Olychansk, il y a trois églises, l'année dernière il y en avait quatre, mais la paroisse avec l'église d'Élie a été déplacée". Bien que le nom du village ne soit pas indiqué, il est très probable qu'il s'agisse de Krasnoe.

Dans le district d'Olychansk, il n'y avait pas d'autre localité avec une église d'Élie, à part Krasnoe. La première mention documentaire de l'église d'Élie le Prophète date de 1710. Le document indique : "Le village de Krasny Kolodez, où se trouve une église au nom de Saint Élie le Prophète. Dans cette église, le prêtre Stepan Fiodorov a 50 ans, et dans la seconde cour, le prêtre Fiodor Stepanov a 27 ans". La présence de deux prêtres témoigne de deux états de l'église en raison du grand nombre de paroissiens, y compris les habitants du village de Polnikov. La première église a probablement existé jusqu'en 1775, lorsque une nouvelle église en bois avec un clocher a été construite.

L'église en pierre actuelle a été érigée en 1842 grâce aux fonds des paroissiens, parmi lesquels se trouvaient les habitants du village de Krasnoe et du hameau de Kiselovka. À l'époque, ils étaient 2903 personnes, et l'église a reçu 36 dessiatines de terre.

Dans les années 1930, l'église a été fermée, le recteur a été réprimé, la communauté a été dissoute, et la question de la démolition du bâtiment a été discutée. En fin de compte, le clocher en pierre et le chœur droit ont été détruits, et les voûtes ont été remplacées par un plafond plat. Le bâtiment a été réaménagé en club et en salle de cinéma, et dans le sanctuaire, après la destruction de l'iconostase, une scène a été aménagée.

En 1991, le bâtiment de l'église a été restitué aux croyants. Pendant plus de dix ans, des travaux de réparation et de restauration ont été effectués, au cours desquels le clocher en pierre a été reconstruit, le revêtement extérieur a été réalisé et la décoration intérieure de l'église a été restaurée.

Le 2 août 2007, le jour d'Élie, l'église restaurée a été consacrée par l'archevêque (aujourd'hui métropolite) de Belgorod et de Starooskol, Ioann.