Село Державино было основано в 1750-х годах Романом Николаевичем Державиным, отцом известного русского поэта и государственного деятеля Гаврилы Державина, который служил подполковником в Оренбургском Ландмилицком полку. После смерти мужа мать поэта построила в селе деревянную церковь в честь иконы Божией Матери "Смоленская". Со временем деревянный храм обветшал, и в 1784 году Гавриил Романович Державин получил благословение казанского архиерея на возведение каменной церкви.

Строительство началось летом того же года в центре села и длилось 12 лет. В 1796 году храм был освящен в честь Смоленского образа Богородицы. Два боковых престола освятили в честь великомученицы Екатерины и иконы Божией Матери «Знамение».

С XIX века храм в селе Державино стал признанной достопримечательностью Оренбургской, а с 1851 года Самарской губерний. Он является выдающимся памятником истории и культуры всероссийского значения и считается старейшим храмом Оренбургской области.

В период с 2015 по 2018 годы были проведены работы по архитектурно-художественной реставрации живописи, укреплению красочных слоев и устранению трещин в грунте живописи. Также были выполнены реставрационные работы на фасадах и кровле, и воссоздана колокольня.