La iglesia, dedicada al santo gran mártir Jorge el Victorioso, fue construida fuera de las murallas de la ciudad, en Forstadt, el 25 de junio de 1756. Por orden del 2 de julio del mismo año, fue consagrada con la bendición del arzobispo de Kazán y Sviyazhsk, Gavriil. La construcción fue financiada por los cosacos de Orenburg bajo la dirección del gobernador Nepluyev y los esfuerzos del ataman Vasili Mogutov. La iglesia era de piedra, con campanario y ricamente decorada con utensilios. Todos los objetos sagrados, colocados en el altar y el sacrificio, eran de plata.

Antes de la reubicación de los kalmucos bautizados en 1746, los habitantes de esta área pertenecían a la parroquia de la iglesia cosaca urbana de San Nicolás el Milagroso. Más tarde, los kalmucos fueron reubicados a los ríos Gusikha y Uran.

Durante el asedio de Orenburg en 1773, la iglesia fue devastada por los pugachovistas: los íconos fueron dañados, las vestiduras eclesiásticas rasgadas y los documentos quemados. El templo fue utilizado como establo para caballos, y desde su campanario, Pugachov bombardeó la ciudad. Se logró salvar el iconostasio, trasladándolo a otra iglesia. En 1778, los feligreses de la iglesia de San Jorge fueron asignados a la iglesia de San Nicolás. En 1791, la iglesia fue renovada y nuevamente consagrada, y se le asignó la parroquia y el clero de la iglesia de San Nicolás, que había sido destruida por el fuego.

Un valor especial del templo era el ícono de la Madre de Dios de Tikhvin, adornado con perlas. Los cosacos prestaban mucha atención a la decoración de su iglesia. En 1899, se adquirió una campana de 300 puds para la catedral. Todos los desfiles eclesiásticos se llevaban a cabo en la plaza de la catedral, y desde 1891, en la plaza junto a la capilla entre Forstadt y la ciudad. En 1889, surgió la idea de perpetuar el milagroso salvamento de la familia imperial en el accidente del tren, construyendo una capilla con el ícono de los santos, venerados el 17 de octubre. La capilla fue erigida en la plaza de Forstadt junto a la torre de vigilancia y se completó para el 26 de julio de 1891, el día de la llegada del heredero al trono, el gran duque Nicolás Alexandrovich. El heredero estuvo presente en la oración en la nueva capilla. En 1913, junto a la capilla, los cosacos construyeron la Casa de la Bandera, un museo de la gloria militar.

La catedral, la capilla y la Casa de la Bandera existieron hasta la década de 1930, después de lo cual fueron destruidas. Ahora, en el lugar de la catedral, hay casas privadas en la calle Pugachovskaya, y en el lugar de la capilla, un gimnasio de la Universidad Agraria Estatal de Orenburg.