Церковь, посвящённая святому великомученику Георгию Победоносцу, была возведена за городским валом в Форштадте 25 июня 1756 года. По указу от 2 июля того же года она была освящена с благословения архиепископа Казанского и Свияжского Гавриила. Строительство велось стараниями оренбургских казаков, которые использовали часть своего денежного жалованья по приказу тогдашнего губернатора Неплюева и под руководством казачьего атамана Василия Могутова. Церковь была каменной, с каменными сводами и колокольней, имела один престол и была обставлена дорогой утварью. Все священные предметы на святом Престоле и жертвеннике были выполнены из серебра.

Церковные парады изначально проводились на соборной площади, но с 1891 года они стали проходить на площади у часовни, расположенной между Форштадтом и городом, рядом с городской пожарной каланчой. В 1889 году среди офицеров и казаков возникла идея увековечить чудесное спасение царской семьи при крушении поезда на курско-харьковском направлении, построив часовню с иконой святых, почитаемых 17 октября, в день крушения. Из-за нехватки места на соборной площади было решено возвести часовню на форштадтской площади у каланчи.

Строительство часовни завершилось к 26 июля 1891 года, к приезду цесаревича Николая Александровича, который был августейшим атаманом казачьих войск России. Наследник престола присутствовал на молебне в новой часовне. В 1913 году рядом с часовней казаки Оренбургского казачьего войска построили Знаменную избу, музей боевой славы Оренбургского казачества.

Собор, часовня и Знаменная изба существовали до 1930-х годов, после чего были полностью разрушены. Сейчас на месте собора находятся частные жилые дома на улице Пугачёвской, а на месте часовни расположен спортзал Оренбургского государственного аграрного университета.