Надкладезная часовня во имя Всех Святых была освящена 9 августа 1998 года Архиепископом Орловским и Ливенским Паисием при участии настоятеля протоиерея Владимира (Дороша В. В.) и ктитора Иосифа Николаевича Калашникова. Часовня расположена над скважиной, из которой вода поднимается с глубины 140 метров и стекает по Кресту внутри часовни.

На этом месте в 1641-1646 годах была построена деревянная церковь, служившая храмом Богоявленского мужского монастыря, который существовал до 1680 года. После пожара того года монастырь перенесли на Взвозную гору, а для церкви возвели каменное здание. В 1822 году на колокольне с курантами установили большой колокол весом 568 пудов (около 9 тонн), и до 1830 года его звон служил началом благовеста всех церквей Орла.

В 1837-1838 годах церковь была значительно перестроена и расширена, трапезная соединена с колокольней, а также возведена каменная ограда с главными воротами. В 1900 году аварийную колокольню разобрали, а в 1908 году построили надвратную звонницу, разрушенную в 1930 году. С 1901 года священником, а с 1903 года настоятелем храма был Илья Васильевич Ливанский (1854-1920), известный духовный писатель, краевед и библиофил, преподававший закон Божий в различных учебных заведениях города. В 1921-1922 годах на колокольне жил орловский юродивый Афанасий Андреевич Сайко (1887-1967).

Храм был закрыт в 1938 году, через год снесли звонницу и разрушили ограду. В 1939-1941 годах в здании располагался антирелигиозный музей. Богослужения возобновились в декабре 1941 года. После освобождения Орла от немецко-фашистских захватчиков церковь оставалась соборной, но в 1960 году её снова закрыли. С 1962 по 1993 год в здании размещался кукольный театр. В 1993 году церковь передали общине верующих, и после ремонтно-восстановительных работ она была освящена в 1996 году. В 1997-1998 годах рядом с церковью была построена и освящена надкладезная часовня во имя Всех Святых.