Подробной информации о храме в селе Коровяковка не сохранилось. Однако известно, что в селе была деревянная дубовая церковь и часовня рядом с кладбищем на улице Набережная. Церковь располагалась в центре села, где сейчас находится здание правления местного сельхозкооператива.

В конце 1930-х годов храм был разрушен по решению местных властей. На его месте было решено построить клуб для развлечений, что вскоре и было сделано. В советское время религиозная жизнь в Коровяковке свелась к семейным и бытовым обрядам. Верующие, нуждающиеся в церковной молитве и Таинствах, посещали уцелевшие храмы в селах Алексеевка и Попово-Лежачи в Глушковском районе.

После перестройки жители села обратились к архиепископу Ювеналию (Тарасову) с просьбой об открытии православного прихода, и в 1992 году богослужения в Коровяковке были возобновлены спустя шесть десятилетий.

Вскоре по распоряжению главы сельской администрации под храм было выделено помещение бывшего «Комбината бытового обслуживания». Прихожане своими силами старались придать заброшенному зданию достойный церковный вид. Многое было сделано благодаря усилиям простых верующих.