В 1627 году на высоком берегу реки Лесной Воронеж по указу царя Михаила Феодоровича Романова старец Иосиф основал мужской Троицкий монастырь. Обитель находилась в дубовой роще у реки, противоположный берег которой называли "ногайской стороной". Старцу Иосифу помогали старцы Пафнутий, Агафоник и Нифонт. Монастырю выделили лесные и сенные угодья, и к 1635 году ему принадлежало семь крестьянских дворов. В 1636 году монахи получили благословение архиепископа Антония Рязанского на строительство храма во имя Святой Троицы с приделом Успения Пресвятой Богородицы. Первая церковь была деревянной и небольшой. 5 сентября того же года царь Михаил Феодорович поручил ясельничим и воеводам Ивану Биркину и Михайлу Спешневу отправиться в Дикое поле и строить новый город Козлов как часть Белогородской засечной черты, поскольку Тульская черта уже не сдерживала натиск крымских и ногайских татар.

К середине XVII века Белогородская засечная черта была завершена. Монастырь, находившийся к югу от Козлова, часто подвергался татарским и калмыцким набегам. В 1643 году козловский воевода князь Иван Ростовский сообщил царю Михаилу Феодоровичу о нападениях татар, которые казаки не пропустили в город. За героическую оборону царь наградил защитников золотом и средствами на обустройство. Для постоянного проживания сюда были приглашены донские и яицкие казаки, а также солдаты и другие служивые люди. Весной и летом 1644 года 30 татарских мурз осаждали город. В письме хану Мехмет Гирею царь Михаил Феодорович отметил, что почти весь Крым побывал в этих местах. Через Козлов проходила Посольская дорога из Москвы в Бахчисарай, по которой возвращали пленных, для освобождения которых был введен особый налог.

После Октябрьского переворота началось разграбление храмов и монастырей. 19 января 1918 года Патриарх Тихон упомянул эти события в своем Послании, а на следующий день был принят Декрет об отделении школы от Церкви. 2 февраля того же года издали Декрет о свободе совести и религиозных обществах. Козловский монастырь также пострадал: его имущество реквизировали, а монашествующих выселили. С начала 1999 года в храме возобновились богослужения, настоятелем стал протоиерей Георгий Политаев. 5 апреля 1999 года здание церкви передали на баланс Тамбовского Епархиального управления. В приходской Успенской церкви произошло чудо: от Казанской иконы Божией Матери исходило благоухание, а под побелкой обнаружились лики святых. Роспись стен церкви утрачена под слоями краски.

Из монастырских построек сохранились угловая башня, фрагменты стены, корпус настоятеля, трапезная и гостиница. Некрополь частично оказался под асфальтом. Летом 2001 года дары прихожан Казанской иконе были украдены местным наркоторговцем. Однако Успенская церковь восстанавливается усилиями настоятеля и прихожан и является одной из самых посещаемых в городе. В 2004 году началось возрождение монастыря.