Православный храм расположен на границе с Норвегией, на левом берегу реки Паз, и посвящён святым Борису и Глебу. В XVI веке здесь находился Пазрецкий погост, основанный Святым Трифоном для распространения православия среди коренных народов, таких как колтты и другие саамы. В 1565 году по его инициативе была возведена деревянная церковь с одним куполом и колокольней. Согласно надписи на сохранившемся кресте, освящение провёл священник Иларион 24 июня. Трифон надеялся, что церковь поможет его миссионерской деятельности, и позже в храме хранилось его рукописное житие.

Настоятели погоста жили при церкви только летом, а зимой перебирались в Колу; приход был малочисленным, и церковь оставалась бедной. В ней находился небольшой иконостас, на правой стороне которого были иконы братьев-мучеников и святого князя Владимира с надписями вязью. Рядом с Пазрецким погостом была пещера, где, по преданию, преподобный Трифон скрывался от саамов, сопротивлявшихся христианству; позже эта пещера почиталась саамами как святыня.

До второй половины XIX века прихожанами церкви были преимущественно саамы и поморы. Среди колтта-саамов активно просветительскую деятельность вели священники Георгий Терентьев и Константин Щеколдин, которые также изучали историю, культуру и язык колттов. В 1826 году при демаркации границ России и Норвегии граница прошла по реке Паз, и левый берег, где стоит церковь, оказался в Норвегии. Однако для сохранения церкви в составе России был создан анклав площадью 1 кв. км на норвежском берегу. Эта конфигурация границы сохранилась до сих пор.

23 июля 1870 года Пазрецкий погост посетил великий князь Алексей Александрович, который выделил средства на ремонт старой церкви и инициировал строительство нового храма. Проект разработал инженер Д.В. Васильев. Строительство, контролируемое особым комитетом при архангельском губернаторе, проходило в 1872-1874 годах, и 25 августа 1874 года храм был освящён. 23 июня 1873 года Пазрецкий погост посетили король Швеции и Норвегии Оскар II и принц Оскар Адольф.

В 1920-х-1940-х годах территория бывшего Пазрецкого погоста вместе с Печенгским районом входила в состав Финляндии. Во время военных действий в 1944 году новая церковь Бориса и Глеба сильно пострадала, а старый деревянный храм сгорел. Восстановление храма проходило в 1982-1992 годах, и в 1992 году состоялось его освящение. Богослужения в Борисоглебском храме проводятся дважды в год: 15 мая и 6 августа. Храм труднодоступен для посещения, так как находится на приграничной режимной территории.