В 1889 году на станции Ртищево РУЖД была возведена деревянная церковь в честь святого князя Александра Невского. Средства на её строительство были собраны благодаря пожертвованиям железнодорожников и частных лиц в память о чудесном избавлении царской семьи. Открытие церкви, расположенной при железнодорожной школе, состоялось 15 октября 1889 года. Освящение провёл епископ Павел, прибывший с духовенством в Ртищево 14 октября. Церковь была небольшой, деревянной, обложенной кирпичом и соединённой с учебным заведением. Внутри находилась передняя с вешалками и свечным ящиком. Из передней вели две двери: одна вела в церковь, другая, в школу. Школа представляла собой просторную комнату, которая во время богослужений объединялась с церковью благодаря двустворчатым дверям.

Большинство предметов и икон в церкви были пожертвованы частными лицами. В центре висела изящная люстра, также подаренная. В иконостасе находились работы Императорской Академии художеств. Среди жертвователей был начальник Тамбово-Саратовской железной дороги А. Н. Измайлов, который внёс 300 рублей и подарил церковные принадлежности. Идея строительства принадлежала начальнику станции А. П. Слепцову. Всего на строительство было собрано около 8 000 рублей.

В 1911 году рядом с деревянной церковью была построена каменная, рассчитанная на 780 человек, на средства Общества РУЖД.

В декабре 1923 года комсомольцы Ртищево потребовали закрыть церковь, и в январе 1924 года их требование было удовлетворено. Здание передали профсоюзным организациям для создания рабочего клуба имени В. И. Ленина и библиотеки. В клубе действовали 10 кружков и театр. После открытия в 1935 году Дворца культуры клуб закрыли, а здание заняли отделы станции, что привело его в упадок. В 1937 году здание передали аэроклубу, который разместил там учебный самолёт. В 1940 году его использовали как гараж, а в 1941 году, как мастерские и этапную комендатуру.

20 мая 1944 года СНК СССР разрешил открыть в Ртищево православную церковь. 23 июня 1944 года здание передали верующим. 1 июля 1944 года церковь вновь открылась. Настоятелем стал Иван Николаевич Варин, священником, Иван Петрович Кузнецов, протодьяконом, Александр Васильевич Колчев. Хотя договор предусматривал передачу всего комплекса, сторожку до конца 1945 года занимал отдел строительства газопровода.

С 1955 по 1967 год настоятелем был протоиерей Савва Котляров, отец митрополита Владимира. Будущий митрополит служил в храме чтецом. В Ртищево похоронена его мать.

В начале 1990-х годов восстановили главы храма, а в конце 1990-х, колокольню. Сегодня здание признано памятником архитектуры и искусства. С 2003 по 2005 год проводился капитальный ремонт. 21 февраля 2006 года из Александро-Невской лавры в церковь доставили икону с частицей мощей святого Александра Невского.