Село, возникшее на базе Ольшанской крепости Самарской оборонительной линии в 1741 году, расположено в 20 км от Бузулука на реке Ольшанке, левом притоке реки Самары, от которой и получило своё название. Крепость была основана в 1738 году при князе Василии Алексеевиче Урусове. До 1905 года село называлось Олыданкой. Позже добавили определение «первая», чтобы отличать его от Елшанки второй, основанной в Бузулукском уезде в 1794 году чувашскими переселенцами. В 1824 году в селе построили кирпичную церковь во имя Рождества Христова, которую местные жители называли Рождественской в Ольшанке. Звон её колоколов был слышен даже в Бузулуке. Вскоре при церкви открыли земскую приходскую школу. Церковь простояла до середины XX века, после чего была закрыта. В 1957 году в её здании разместилась сельская средняя школа, а после постройки нового здания для школы церковь была разрушена. В 2013 году на её месте установили памятный крест и вновь организовали приход.