Спустя двадцать лет после основания Оренбурга в городе насчитывалось около десяти церквей, что стало возможным благодаря усилиям первого губернатора И. И. Неплюева. Одной из первых была церковь во имя апостолов Петра и Павла, возведённая по инициативе Неплюева для крепостного гарнизона, когда сюда перевели батальон Нижегородского полка из Уфы с благословения епископа Казанского и Свияжского Луки.

Строительство церкви началось в 1757 году, а в 1760-м её освятили. Каменный храм с изящными сводами считался одним из лучших в городе после Преображенского и Введенского соборов. Однако в результате большого пожара 1786 года здание сильно пострадало и долгое время оставалось в руинах. Его планировали разобрать, но этому помешал военный губернатор Григорий Семёнович Волконский.

В 1804 году Волконский обратился к императору Александру I с просьбой о восстановлении военной церкви, так как в городе постоянно находились полки. Император удовлетворил просьбу, и из казны выделили средства, на которые губернатор не только восстановил церковь, но и пристроил к ней каменный Крестовоздвиженский придел. Сюда перенесли церковную утварь из сгоревшей деревянной Крестовоздвиженской церкви, хранившуюся во Введенском соборе. В 1809 году храм вновь освятили. В следующем году по распоряжению губернатора к приходу церкви приписали всех военных и чиновников города, а в 1831 году и Неплюевский кадетский корпус, который до 1852 года не имел своей церкви. Вновь освящённый храм отличался большим стеклянным входным коридором. Церковь окружала ограда, внутри которой находилась могила оренбургского военного губернатора Павла Петровича Сухтелена, скончавшегося в 1833 году.

В 1853 году в церкви обновили иконостас, добавили новые росписи и приобрели новую утварь. Петропавловский храм был одноштатным, но после его перевода из военного ведомства в епархиальное, он стал двухштатным.

В 1922 году здание церкви передали Дому Красной Армии для клуба. В начале 1940-х годов храм был полностью снесён. Он находился на углу улиц Советской и Краснознамённой. Сейчас на этом месте расположен сквер имени Полины Осипенко, летчицы и Героя Советского Союза, где в 1998 году в память о встрече в Оренбурге двух великих русских писателей установлен памятник А.С. Пушкину и В.И. Далю.