Храм получил свое название в честь прежней деревянной церкви в Полтавском поселке, который сейчас является частью города Карталы. Название первой церкви было связано с иконой Божьей Матери Табынская, поскольку казаки, строившие ее, происходили из станицы Табынской, также известной как Казанская. Эта икона была известна в Зауралье благодаря своим чудесам. В 1890 и 1905 годах, во время Успенского поста, в храме Полтавского поселка находилась чудотворная Табынская икона Божией Матери.

История церкви берет начало в 1852 году, когда казаки Полтавского поселка решили построить молитвенный дом. В 1854 году часовня была преобразована в церковь, которую достроили и освятили в 1861 году в честь Казанской иконы Божьей Матери. В 1891 году в поселке произошел сильный пожар, уничтоживший почти весь поселок, включая деревянную церковь.

Около 1900 года началось строительство нового каменного храма. Средства на строительство в основном предоставляли местные жители, но значительную часть расходов взял на себя купец Андрей Михайлович Зайцев, а затем его сын. Храм был завершен к 1903 году, а 17 июня 1911 года протоиерей Михаил Скопин его освятил. Храм функционировал до 1929 года, после чего был закрыт советскими властями: колокольня разрушена, колокола сняты, а внутреннее убранство разграблено. В уцелевшем здании разместился клуб «1 мая».

Лишь в 1988 году православная община смогла вернуть здание храма. Новое освящение состоялось 28 января 1996 года, его провел епископ Челябинский и Златоустовский Георгий Грязнов. Трехпрестольный каменный храм построен в русском стиле, характерном для приходских храмов середины XVII века. Церковь расположена в центре города на своем историческом месте и признана памятником архитектуры.

В 2004 году в храме начались значительные изменения. Иконостас приобрел благолепный вид благодаря художнику-иконописцу Александру Адегову. Для увеличения пространства внутри храма убрали перегородку, отделявшую притвор. Стены храма расписал художник Михаил Евдокимов. Правый и левый клиросы заменили на балкон над входом. Внешний облик изменился с добавлением двух престолов, которые были освящены 15 апреля 2006 года отцом Алексием совместно с другими священниками. Из Псково-Печерского монастыря и Собора Преподобных Псково-Печерских паломником Стефаном Бахмутом были привезены две иконы с частицами святых мощей.

В 2007 и 2008 годах была благоустроена территория вокруг храма, восстановлена колокольня и возведены новые купола с крестами. Реконструкция храма завершилась в 2010 году сносом пристроя, нарушавшего каноническую форму креста.