По преданию, название селу дали многочисленные холодные родники, которые до сих пор бьют из-под земли. Долгое время здесь не было собственной церкви: до 1814 года Холодное относилось к приходу Дмитриевской церкви села Толстое, а затем ещё двадцать лет было приписано к Георгиевской церкви в слободе Коломыцево. Однако с 1837 по 1840 год жители Холодного построили свою церковь в честь апостола и евангелиста Иоанна Богослова, и с её освящением появилась слобода Холодная.

В 1898 году в селе Холодное возвели новую церковь, также посвящённую Иоанну Богослову. Этот храм пережил революции и войны, но не устоял перед "хрущёвской оттепелью" и был разрушен в 1962 году.

Новый храм был построен Белгородским заводом ЖБК-1 по технологии сборки из крупногабаритных конструкций, разработанной на этом предприятии. 26 мая 2000 года состоялось освящение закладного камня для строительства новой церкви в Холодном, а уже 29 мая 2002 года архиепископ Белгородский и Старооскольский Иоанн провёл чин освящения нового храма.