Строительство кирпичной церкви в селе Мордово началось во второй половине XIX века, так как старая церковь не могла вместить всех прихожан. В то время в селе насчитывалось 1200 дворов. Церковь была завершена и освящена в 1909 году. Это огромное здание вмещает до 5000 человек и является одним из крупнейших в Тамбовской области. Из-за начавшейся вскоре Первой мировой войны роспись стен в интерьере храма не была выполнена, так как не хватило средств на внутреннюю отделку. Особенностью храма является керамический иконостас, привезенный в 1890 году из Ново-Иерусалимского монастыря под Москвой. Такой иконостас уникален для России.

В 1939 году храм был закрыт и использовался как зернохранилище. Однако местные жители не позволили использовать алтарь в хозяйственных целях, отгородив его. Храм собирались взорвать, но офицер, прибывший с проверкой, указал, что взрыв может повредить соседние дома и школу, что спасло церковь от разрушения. Во время Великой Отечественной войны в здании размещался госпиталь, и для гигиенических целей стены были побелены известью, что повредило некоторые иконы.

В 1945 году храм был возвращен верующим, когда Тамбовской епархией руководил архиепископ Лука Войно-Ясенецкий. К 1000-летию Крещения Руси здание было отреставрировано. Сейчас восстановление идет медленно из-за нехватки средств. Настоятель о. Анатолий планирует восстановить разноцветное остекление окон храма.

В 1993 году патриарх Московский и Всея Руси Алексий посетил Михаило-Архангельский храм и провел там Божественную Литургию.