Село Голубея известно с периода Смутного времени, и уже в 1600 году там существовал храм. Согласно преданию, его построил Кирилл Нарышкин в честь Святителей Афанасия и Кирилла, Архиепископов Александрийских. В XVII веке село принадлежало роду Толочановых, брянских детей боярских, возвысившихся благодаря Лжедмитрию I, но к началу XVIII века род пресекся, и село перешло к Голициным.

В 1776 году на месте старого храма князья Михаил и Александр Голицыны возвели новый деревянный храм, который освятили 18 февраля 1785 года. Спустя 64 года он обветшал, и в 1844 году, по благословению Епископа Орловского Евлампия, на средства графа Василия Дмитриевича Олсуфьева началось строительство нового каменного храма с колокольней. В нем устроили три престола: главный, во имя Святой Троицы, южный, в честь Воскресения Христова, северный, во имя Святителей Афанасия и Кирилла. В 1869 году церковь пострадала от пожара, но была восстановлена без значительных изменений в архитектуре.

По воспоминаниям старожилов, в годы гонений на Русскую Православную Церковь храм оставался открытым, и в нем продолжались богослужения. Троицкий храм является одним из ранних примеров культового зодчества русского стиля на Брянщине, подражающего архитектуре домонгольской Руси.

Церковь Троицы расположена на высоком берегу Десны в центре села и доминирует в окружающем ландшафте. Это четырехстолпный одноглавый храм квадратной формы с тремя полукруглыми апсидами. С запада к нему примыкает небольшое помещение паперти с колокольней. Куб зала завершен световым барабаном на подпружных арках и увенчан куполом с крестом. Каменная церковь стоит на высокой подклети, украшена декоративными элементами, такими как граненые полуколонны, ступенчатые карнизы и килевидный фронтон. Обрамления окон и дверей выполнены из кирпича без штукатурки. Колокольня имеет форму глубокой полукруглой ниши с балюстрадой. Троицкая церковь является оригинальным образцом новорусского стиля XIX века на начальной стадии его развития.

27 июля 1986 года в северном приделе храма был освящен престол в честь Введения во храм Пресвятой Богородицы. С 2008 года храм является Свято-Троицким Архиерейским подворьем.