В 1295 году охотник из Рыльска нашёл икону Божьей Матери на берегу Тускари, у корней большого вяза. Икона лежала ликом вниз, и когда он её поднял, на этом месте забил источник. Здесь построили часовню.

Икона хранилась в часовне и защищала её. Крымские татары неоднократно пытались поджечь часовню, но она не загоралась. Узнав у священника причину своих неудач, татары вынесли икону и разрубили её на две части, после чего часовня загорелась. Спустя годы священник, вернувшись из плена, нашёл половинки иконы. Когда он их соединил, икона срослась так, что место соединения было почти незаметно.

В 1597 году царь Фёдор Иванович, сын Ивана Грозного, привозил икону в Москву и, отправив её обратно, приказал основать мужской монастырь. Так появилась Коренная пустынь. В 1611 году её разрушили крымские татары, а в XVIII веке монастырь пережил реформы Петра I и Екатерины II. Однако обитель продолжала расти и богатела, увеличивая число монахов. Над источником и пнём вяза стояла старая деревянная церковь Иконы Богоматери "Живой Источник", которую фельдмаршал Б.П. Шереметев перестроил в камне после Полтавской победы.

В XIX веке это был один из крупнейших и известных монастырей в России. Его развитию способствовала ярмарка, вторая по масштабу в стране после Нижегородской.

Советская власть обошлась с монастырём суровее всех прежних бедствий. Собор взорвали, а место паломничества и Святой источник оцепили милицией. В 1989 году остатки монастыря вернули Церкви, и началось его восстановление. На сегодняшний день многое уже восстановлено.