Храм, построенный в 1907 году известным астраханским благотворителем и купцом Иваном Ивановичем Губиным, служил семейной усыпальницей для купцов Губиных. В том же году здесь был похоронен его брат Александр Иванович Губин. С храмом связано интересное предание: в молодости Александр Иванович пострадал от казаков, которые избили его нагайками, из-за чего у него тряслась голова. В начале XX века, когда святой праведный отец Иоанн Кронштадтский посетил Астрахань, Александр Иванович обратился к нему за духовной поддержкой. Отец Иоанн благословил его словами: «На твоем теле будет храм». Это предсказание сбылось, и вскоре после смерти брата под сводами нового храма в специально устроенном склепе был похоронен и сам Иван Иванович Губин.

Храм был назван в честь небесного покровителя Ивана Ивановича, родившегося в день Усекновения Честной Главы Иоанна Предтечи. 29 августа 1907 года его освятил ректор астраханской духовной семинарии архимандрит Иоанн Левицкий. Храм был каменный, однопрестольный, небольшой и без колокольни. Богослужения проводились только летом и исключительно по просьбе семьи Губиных, так как храм не отапливался.

После революции 1917 года Иоанно-Предтеченский храм использовался редко и почти всегда оставался закрытым. В декабре 1943 года астраханский архиепископ Филипп Ставицкий активно добивался возвращения храма епархии и его открытия для богослужений. В 1949 году, в связи с визитом в Астрахань Святейшего Патриарха Московского Алексия I, местные власти зарегистрировали кладбищенскую церковную общину.

Сегодня старое кладбище уже не используется для захоронений, но в кладбищенскую церковь по-прежнему привозят отпевать усопших, следуя давней традиции.