Часовня была возведена в память о чудесном спасении семьи Александра III во время железнодорожной катастрофы 17 октября 1888 года. Это событие вызвало в Ярославле, как и по всей России, всплеск религиозных и патриотических чувств. В честь этого события строились не только часовни, но и храмы, такие как Тихвинская церковь за Волгой в Тверицах. В октябре 1888 года на Ильинской площади прошел торжественный молебен, после которого ярославские торговцы, движимые любовью к царю, решили на собранные средства создать святую икону и разместить её в часовне Мытного двора. Перед иконой должна была гореть неугасимая лампада, а 17 октября ежегодно проводиться благодарственный молебен. Комиссия, созданная для реализации этого замысла, осмотрела существующую часовню и признала её непригодной для размещения иконы из-за ветхости и неудовлетворительного состояния. Было предложено снести старую часовню и построить новую. Проект поручили губернскому архитектору Николаю Ивановичу Поздееву, а строительством руководил городской голова Иван Николаевич Соболев. Основные расходы взял на себя купец Константин Михайлович Огнянов. Закладка часовни состоялась 17 октября 1889 года в присутствии городских властей. Часовня представляет собой шатровый храм с одной апсидой, украшенной декоративной главкой. Западное крыльцо завершается шатровым навесом. Архитектурный стиль напоминает шатровую колокольню с богатым кирпичным декором, характерным для русской архитектуры конца XVII века. Шатёр покрыт серой керамической плиткой, имитирующей древний лемех. Резной дубовый иконостас был выполнен по рисунку Н. И. Поздеева, а иконы заказаны палехскому мастеру Федору Галанову. Часовня была освящена в честь небесных покровителей членов царской семьи, таких как князь Александр Невский и другие, и в обиходе называется часовней Александра Невского. Ежегодно 17 октября к часовне подходил крестный ход из Успенского собора с образом Николая Чудотворца из Николо-Бабаевского монастыря.

Точная дата закрытия часовни неизвестна, но в 1929 году там ещё проводились службы. Позже крыльцо было разобрано, а в часовне размещались магазин "Пчеловодство", мастерская химчистки и крашения. В конце 70-х годов, когда рядом начали строить здание обкома партии, часовню планировали снести, но благодаря усилиям архитекторов и градозащитников памятник удалось сохранить. В 1982 и 1984 годах была проведена реконструкция, в ходе которой крыльцо восстановили. Некоторое время в часовне располагался выставочный зал Ярославского художественного музея.

В июне и сентябре 2002 года интерьер часовни был расписан мастерами школы "Ярославская икона" под руководством Николая Александровича Мухина. 6 декабря владыка Кирилл, недавно назначенный епископом Ярославским и Ростовским, освятил часовню.

В настоящее время часовня относится к Кирилло-Афанасиевскому монастырю.