Le temple, construit en 1907 par le célèbre bienfaiteur et marchand astrakhanien Ivan Ivanovitch Goubine, servait de mausolée familial pour les marchands Goubine. La même année, son frère Alexandre Ivanovitch Goubin y fut enterré. Une légende intéressante est liée à l'église : dans sa jeunesse, Alexandre Ivanovitch a été victime des cosaques, qui l'ont battu avec des fouets, ce qui lui a fait trembler la tête. Au début du XXe siècle, lorsque le saint juste père Jean de Kronstadt a visité Astrakhan, Alexandre Ivanovitch lui a demandé un soutien spirituel. Le père Jean l'a béni en disant : « Sur ton corps sera un temple ». Cette prophétie s'est réalisée, et peu après la mort de son frère, Ivan Ivanovitch Goubin fut lui aussi enterré sous les voûtes du nouveau temple dans une crypte spécialement aménagée.

L'église a été nommée en l'honneur du saint patron d'Ivan Ivanovitch, né le jour de la Décollation de la Sainte Tête de Jean-Baptiste. Le 29 août 1907, elle fut consacrée par le recteur du séminaire théologique d'Astrakhan, l'archimandrite Jean Levitski. L'église était en pierre, à un autel, petite et sans clocher. Les services religieux n'avaient lieu que l'été et uniquement à la demande de la famille Goubine, car l'église n'était pas chauffée.

Après la révolution de 1917, l'église de Jean-Baptiste était rarement utilisée et restait presque toujours fermée. En décembre 1943, l'archevêque d'Astrakhan Philippe Stavitski a activement œuvré pour le retour de l'église à l'évêché et son ouverture pour les services religieux. En 1949, en raison de la visite à Astrakhan de Sa Sainteté le Patriarche de Moscou Alexis I, les autorités locales ont enregistré la communauté ecclésiastique du cimetière.

Aujourd'hui, le vieux cimetière n'est plus utilisé pour des inhumations, mais l'église du cimetière continue d'accueillir des services funéraires, suivant une ancienne tradition.