Монастырь был основан около 1670 года старцем Иосифом на южной окраине Тамбова. В 1679 году монастырская братия получила в дар мельницы на реках Студенце и Цне в районе села Донского. В их владении находились земли Троицкой Дубравы, Троицкого Караула, хутор Трёх Лощин, берег реки Кариана и земли около села Татаново.

Частые пожары в Тамбове неоднократно изменяли архитектурный облик монастыря, значительное его переустройство произошло в середине XVIII века.

Когда в 1758 году была восстановлена Тамбовская епархия, епископ Пахомий Симанский сделал Казанскую обитель своей резиденцией. Рядом с братским корпусом и храмом были построены новый деревянный архиерейский дом, духовная консистория, баня, конюшенный двор и хозяйственные службы.

Каменное строительство зданий и храмов Казанского мужского монастыря началось в последние десятилетия XVIII века.

Епископ Феофил Раев, управлявший епархией в 1788 и 1811 годах, внес значительный вклад в строительство и благоустройство обители. По его инициативе были возведены два каменных храма, Казанский и Иоанно-Предтеченский, которые сохранились до наших дней. Храмы строил бывший саровский послушник Нафанаил. Важную роль в строительстве сыграли протоиерей С. А. Березнеговский и инженер-архитектор А. С. Четвериков. Здания монастыря выполнены в стиле классицизма, популярного в то время в русской архитектуре.

Казанский монастырь был закрыт 19 октября 1918 года из-за участия в антисоветских выступлениях в Тамбове. В период гражданской войны, после Антоновского крестьянского восстания, в монастыре был организован лагерь, где проводились допросы и расстрелы. В это время была разрушена колокольня, а материалы использованы для строительства клуба в пригороде, ныне городе Котовске. Колокола передали Главнауке как памятники истории и культуры.

В 1920-х годах здесь находилась Тамбовская губернская ЧК. Позже был уничтожен некрополь и разрушена колокольня. В Казанской церкви разместился филиал Государственного архива Тамбовской области.

28 июня 1927 года президиум Тамбовского городского исполнительного комитета постановил изъять колокола из бывшего Казанского монастыря.

30 августа 1960 года постановлением Совета министров РСФСР № 1327 монастырь был взят под охрану государства как памятник республиканского значения.

Возрождение обители началось 22 декабря 1992 года.

В августе 2014 года во время визита в Тамбов Патриарх Московский и всея Руси Кирилл освятил памятник епископу Питириму, основателю Вознесенского монастыря, и колокольню Казанского монастыря.