Le terrain où se trouve actuellement le temple a été acheté par la Mission spirituelle russe à Jérusalem en 1909. Cependant, les autorités turques locales n'ont pas donné l'autorisation de construire. L'archimandrite Léonide (Sentsov), qui dirigeait la mission, a proposé de construire d'abord une salle à manger pour les pèlerins arrivant à Haïfa par la mer. La construction de l'église a été dirigée par l'ingénieur Boris Gourewitch.

En 1912, la mission a commencé à demander l'autorisation de réaménager la salle à manger. Un autel a été ajouté au bâtiment, un iconostase en marbre gris a été installé et un clocher a été érigé. Au début de 1913, l'autorisation a été obtenue, facilitée par la célébration du jubilé de la Maison des Romanov. Le terrain russe à Haïfa a été proposé d'être nommé "la cour des Romanov". La résolution de la question a pris plus de temps que prévu et a nécessité des formalités supplémentaires. Le 14 novembre 1913, le temple au nom d'Élie le Prophète a été solennellement consacré par le Patriarche de Jérusalem, Damián.

Dans le rapport de la Mission spirituelle russe, il est indiqué que "le temple d'Élie sur le mont Carmel près de la ville de Haïfa est très petit. Il est construit en forme de croix grecque et dans le style architectural grec, mais il est tout à fait suffisant pour les quelques pèlerins et les orthodoxes arabes locaux. L'iconostase est petite, à un niveau, mais de bonne qualité. La sacristie et les objets liturgiques sont modestes. La plupart des objets proviennent de la cathédrale de la Trinité à Jérusalem, une partie a été donnée en don".

La Première Guerre mondiale a perturbé la vie paisible du temple. L'afflux de pèlerins de Russie a pratiquement cessé, et l'église est restée inactive, car il n'y avait pas de prêtre. Dans les années 1920-1930, un prêtre orthodoxe arabe, le protodiacre Nicolas, a officié dans le temple, et après sa mort, il a été enterré près du temple sur le terrain russe. Après cela, les services n'ont eu lieu que de manière épisodique, lorsque des pèlerins venaient avec des prêtres.

Après la création de l'État d'Israël, les biens de la Mission spirituelle russe, y compris l'Église du prophète Élie à Haïfa, sont passés sous la gestion du Patriarcat de Moscou (auparavant, ils étaient sous la juridiction de l'Église orthodoxe russe à l'étranger).

Au printemps 1991, dans l'église du Saint-Sépulcre, Miroslav Vityv a été ordonné prêtre, devenant le recteur de l'église d'Élie le Prophète. Après la visite du Patriarche de Moscou et de toute la Russie, Alexis II, la vie des pèlerinages a repris, les églises ont commencé à être restaurées et de nouveaux prêtres sont apparus.