Церковь Святого благоверного князя Александра Невского в Иерусалиме была задумана Императорским православным палестинским обществом (ИППО) как памятник императору Александру III, основателю общества.

Во время археологических исследований на Русском месте в старом городе Иерусалима с 1861 по 1884 год были обнаружены древние артефакты, включая Порог Судных Врат, через который Иисус Христос проходил на казнь.

В 1884 году ИППО решило возвести над святыней здание, сначала названное «Русским домом», а затем переименованное в Александровское подворье в честь императора Александра III.

Строительство подворья велось с 1887 по 1891 год под руководством представителей ИППО в Иерусалиме Дмитрия Смышляева и Н. Г. Михайлова.

Общество решило включить в архитектурный комплекс домовый храм, скрывая это от властей Османской империи и патриарха Иерусалимского Никодима из-за близости к Храму Гроба Господня и возможных препятствий в получении разрешения на строительство. До 1890 года информация о строительстве церкви оставалась тайной, но вскоре её стало невозможно скрывать из-за особенностей здания.

Цесаревич Николай Александрович планировал попросить султана разрешить строительство храма во время визита в Святую Землю. ИППО готовилось к его приезду, завершив строительство комплекса подворья площадью 1342 м² с ещё не благоустроенной церковью. 5 сентября 1891 года состоялось торжественное освящение Александровского подворья, но церковь ещё не была готова, иконостас ждал султанского разрешения. На западных стенах были размещены иконы работы В. Ф. Пасхина и Николая Кошелева, изображающие страстную историю Христа.

Получение султанского фирмана откладывалось ещё на 4 года. В 1894 году скончался Александр III, и великий князь Сергей Александрович решил увековечить его память строительством церкви во имя Святого Александра Невского. После переговоров с патриархом Иерусалимским Герасимом и турецкими властями вопрос был решён к апрелю 1896 года.

22 мая 1896 года патриарх Иерусалимский Герасим освятил церковь Александра Невского в сослужении архимандрита Рафаила и многочисленного духовенства. В организации торжеств участвовали уполномоченный ИППО Н. Г. Михайлов, Генеральный русский консул Алексей Круглов и другие. В это время в Троицком соборе и Спасо-Вознесенской церкви на горе Елеон звучал Пасхальный звон. Секретарь ИППО Василий Хитрово поручил Н. Г. Михайлову следить за тем, чтобы по четвергам в церкви Св. Александра Невского проводилась панихида по императору и всем упомянутым в Русском доме.