Монастырь был основан царём Иваном Грозным 15 октября 1552 года после взятия города. Он строился на месте, где располагались царская палатка и походная церковь, а также были похоронены русские воины, погибшие под стенами Казани. В 1559 году разлив Волги разрушил монастырские стены, и его перенесли на вершину горы. Монастырь окружён каменной стеной. Его неофициальное название "Зилантов" связано с горой, на которой, по преданию, жил мифический крылатый змей Зилант.

Основание монастыря также связано с захоронением здесь "первого святого мученика Христова в земле Казанской", Иоанна Казанского.

Основной ансамбль монастыря сформировался в XVII веке. Здесь находились Успенский собор 1625 года, храм во имя Алексия Митрополита 1720 года, а также жилые и хозяйственные постройки. В 1640 и 1642 годах в монастыре находился в ссылке суздальский епископ Иосиф, обвинённый в ереси.

В 1732 и 1740 годах в монастыре размещалась Казанская духовная семинария, а с 1740 года, Новокрещенская школа. Позже оба учебных заведения переехали в собственные здания. В 1829 и 1850 годах настоятелем монастыря был архимандрит Гавриил, автор первой в России многотомной истории философии.

В 1918 году десять монахов Зилантова монастыря, включая архимандрита, были расстреляны без суда и следствия по неясному обвинению в обстреле красногвардейцев. Некоторое время монастырь не функционировал, но вскоре на его основе была создана православная община, просуществовавшая до 1928 года, когда её ликвидировали. В советское время ансамбль на Зилантовой горе был почти полностью уничтожен. Монастырское кладбище, где были похоронены именитые граждане, было разрушено в 1930-е годы.

В 1998 году бывший мужской монастырь был возрождён как женский. От старого монастыря сохранились только Всехсвятская церковь 1681 года, значительно перестроенная в 1890-е годы, и настоятельский корпус начала XIX века. Остальные строения монастыря появились в последние десятилетия, включая освящённый в 2006 году Троицкий собор, который является точной копией одноимённого собора Троице-Сергиевой лавры.