Появление этого храма связано с важным событием в истории Астрахани. В 1670 году город был захвачен казаками под предводительством Степана Разина. Почти два года они властвовали в Астрахани, на их совести было множество казнённых горожан, а 11 мая 1671 года они убили астраханского митрополита Иосифа после жестоких пыток. В ноябре 1671 года к городу подошли царские войска под командованием воеводы Ивана Богдановича Милославского. После долгих переговоров, уставшие от смуты астраханцы согласились мирно сдать город 27 ноября, в день празднования иконы Божией Матери «Знамение». В честь этого события по инициативе воеводы Милославского была построена деревянная Знаменская церковь. Точную дату строительства назвать сложно, но вероятно, что храм начали возводить сразу после этих событий. В 1672 году он мог быть уже завершён и освящён новым митрополитом Парфением.

Храм располагался в южной части Белого города, у самых стен. Рядом находилось кладбище и, возможно, женский монастырь. Однако предположение о том, что обитель была при Знаменском храме, ошибочно, так как в 1671 году в Астрахани уже существовал Благовещенский женский монастырь. Монастырь просто находился рядом с Знаменским храмом, который был приходским.

После октября 1917 года Знаменский храм переживал тяжёлые времена. В январе 1916 года во время боёв храм оказался под угрозой. Появился слух, что с колокольни церкви белоказаки стреляют из пулемёта. Большевики восприняли это всерьёз и решили взорвать храм, но, по милости Божией, этого не произошло. Церковь чудом уцелела и от пожара, уничтожившего центр Астрахани. Вокруг храма всё сгорело, кроме кондитерской Шарлау, и он оставался чудесным островом среди огня. К сожалению, все постройки на церковном дворе сгорели.

Вскоре в Знаменском храме произошло значительное событие для Астраханской церкви и города. 24 мая 1919 года состоялось прославление в лике святых священномученика Иосифа, митрополита Астраханского. Этого события давно ждали астраханцы, но в декабре 1918 года доступ верующим в кремль, где находились мощи святого, был затруднён. В кремле разместились штабные организации 11-й Красной Армии, и военные власти постепенно занимали церковные здания. 23 мая, накануне прославления, власти запретили богослужения в Успенском соборе и опечатали его. Это была попытка воспрепятствовать торжествам, но архиепископ Митрофан Краснопольский благословил провести богослужение в Знаменском храме. Это было символично, так как основание Знаменской церкви связано с именем священномученика Иосифа, убитого разинцами, по молитвам которого Астрахань была освобождена. В день прославления, 24 мая, попытались провести крестный ход из Знаменского храма к Успенскому, но военные власти не пропустили верующих.

После захвата весной 1924 года обновленцами Рождество-Богородицкой церкви, архиепископ Фаддей Успенский перенёс кафедру в Знаменский храм, который стал соборным. Однако через неделю его также захватили обновленцы. Они оставались в храме до 1930 года, когда он был отобран у них и передан под центральный клуб пионеров. Но клуб так и не разместился, и 2 июля 1930 года в помещении храма открыли строительный учебный пункт. В отличие от многих астраханских храмов, Знаменская церковь сохранила основную часть, лишившись только верхней части с куполами и колокольней, и была переоборудована под хлебзавод. В таком виде храм существует и сейчас.