После подавления Пугачёвского восстания в 1775 году в городах начали наводить порядок и изменять их планировку. В 1781 году Екатерина II утвердила новый план Тамбова, где каменная церковь Знамения была обозначена в другом месте. Этот план должен был создать единую городскую среду с чётким делением на кварталы и прямыми улицами.

В 1784 году за пределами города создали три новых кладбища, и на одно из них перенесли Петропавловскую церковь. Однако погост в Стрелецкой слободе рядом с Казанским монастырём продолжал существовать некоторое время.

Согласно источникам, каменная Знаменская церковь была построена в 1791 году. Она представляла собой «восьмерик на четверике» с колокольней и имела черты классицизма. Храм был ориентирован строго на восток, в отличие от дореформенных построек, таких как Преображенский собор и Покровская церковь.

Строительство новой Знаменской церкви, по некоторым данным, длилось 16 лет. Исследователи пишут, что в 1775 году Стрелецкая слобода была уничтожена пожаром, и деревянная Знаменская церковь сгорела. В 1791 году на средства горожан на её месте возвели новое каменное здание. Однако, возможно, храм был построен несколько раньше, в конце 1780-х годов, так как в записках В. Алтуфьева упоминается начальник казённой палаты Аничков, живший рядом с каменной церковью у базара.

Основные изменения, связанные с церквами города, произошли при епископе Тамбовском и Пензенском Феофиле (Раеве). В 1799 году губернский архитектор В. Усачёв изобразил Знаменскую церковь на гравюре между собором и домом губернатора. В то время от крепостных строений ничего не осталось. Соборная площадь увеличилась, а на углу Знаменской улицы появились два каменных дома с классическими фасадами. Город приобрёл новый облик, и в описании начала XIX века говорилось, что он был выстроен заново по высочайшему плану.

К концу XVIII века Знаменский храм стал центром городского благочинного округа. Один из его священников, Михаил Иванов, был благочинным, а другой, единственным в епархии миссионером-проповедником. В документах от 18 марта 1798 года говорится о назначении священника Афиногена Иоаннова проповедником Знаменской церкви.

Новый каменный Знаменский храм был построен в стиле классицизма по типовому проекту. Это привело к путанице с Архангельской церковью на дореволюционной открытке. В.А. Кученкова пишет, что в 1833 году церковь увеличили, и она стала пятиглавой. Однако фотографии конца XIX века показывают её в прежнем виде, одноглавой. Вероятно, обновление церкви произошло в 1894 и 1898 годах, когда был проведён капитальный ремонт и храм приобрёл черты эклектики. Тогда же увеличили высоту колокольни и добавили четыре новых купола.

Храм находился недалеко от городского базара и имел хорошие доходы. Он был трёхпрестольным с тремя штатами священников, а в 1836 году добавили четвёртый штат. В 1873 году, с постройкой храма Рождества Христова на рыночной площади, штат Знаменской церкви сократили.

Фотографии сохранили облик Знаменского храма, стоявшего на перекрёстке улиц Знаменской и Долгой. В 1911 году о нём сообщалось, что он был построен в 1791 году, расширен в 1833 и 1894 годах, и имел три престола. В приходе было 200 домов городских жителей и 227 дворов сельских. При церкви действовала школа и братство, оказывавшее помощь бедным.

С историей Знаменской церкви связаны имена многих культурных деятелей. В 1909 году протоиерей Михаил Назарьев был награждён палицей, а священник Василий Сохранский представлен к ордену св. Анны. Его сын, Александр Сохранский, известен как собиратель легенд Тамбовского края. При храме действовал хор под управлением Г.И. Сидельникова, который первым в Тамбове начал активную концертную деятельность.

В начале XX века церковь оказалась окружена зрелищными заведениями: напротив её алтаря находился зимний театр, рядом располагался цирк, а севернее, летний театр.

После революции Знаменская церковь не была сохранена и в мае 1931 года была закрыта и разрушена. Сегодня её остатки находятся на перекрёстке улиц К. Маркса и Октябрьской, а на месте первой деревянной церкви построен подземный переход. На могилах первых строителей и защитников города одно время стояло кафе с названием «Золотой улей».