Первоначально храм Михаила Архангела в Ерзовке, привезенный из Царицына, был деревянным, но к 1890 году он пришел в полную негодность. Было решено построить новый каменный храм, и средства на его строительство выделило Пичужинское купеческое общество. Строительство длилось шесть лет, и в 1896 году храм был открыт и освящен Архиепископом Царицынским Николаем. Архитекторы создали величественное кирпичное здание с пятью небесно-голубыми куполами. Позже в храме открыли церковно-приходскую школу и проводили службы.

С приходом советской власти храм, как и многие другие, был закрыт, школа прекратила работу, а священник Николай Фиолетов подвергся репрессиям. Службы проводились редко и в 1937 году прекратились. Храм начал разрушаться: кресты сняли, кирпичи разобрали местные жители для строительства бань, а иконы использовали как дрова. Внешний вид храма стал обветшалым, внутри разместили склад для зерна. Во время Великой Отечественной войны колокольня была разрушена прямым попаданием снаряда.

После войны в храме хранили соляную кислоту, а южную стену снесли для проезда грузовиков. К середине 70-х годов храм планировали взорвать, но местные жители этому воспрепятствовали. До 1986 года храм пустовал, затем его хотели превратить в музей мелиорации, но проект не реализовали. В 1990 году в Ерзовке образовалась Православная община, решившая выкупить и восстановить храм. Местные власти сначала сопротивлялись передаче храма и не хотели участвовать в его восстановлении, даже отказывались продавать строительные материалы. Однако община нашла способ восстановить храм: с 1991 года священник и жители поселка начали активно приводить его в порядок. Были убраны горы мусора, извлечен снаряд из стены, восстановлена настенная роспись, поврежденная кислотой.

Постепенно храм преображался и к 1996 году был почти полностью восстановлен, сохранив свой исторический облик. Сейчас в храме продолжаются работы по восстановлению и реставрации.