Село Голубея известно с периода Смутного времени. В 1600 году там уже был храм. По преданию, храм в этом селе был построен Кириллом Нарышкиным во имя Святителей Афанасия и Кирилла, Архиепископов Александрийских. В XVII веке село Голубея принадлежало роду Толочановых, брянских детей боярских, возвышившихся благодаря милости Лжедмитрия-I, но к началу XVIII века род пресекся. От Толочановых село перешло к Голициным. На месте древнего храма в 1776 году князьями Михаилом и Александром Голицыными был построен новый деревянный храм, освященный 18 февраля 1785 года. Через 64 года этот храм обветшал, и в 1844 году, по благословению Епископа Орловского Евлампия, на средства графа Василия Дмитриевича Олсуфьева началось строительство нового каменного храма с колокольней.

В храме было устроено три Престола: главный — во Имя Святой Троицы, южный — в честь Воскресения Христова, северный — во имя Святителей Афанасия и Кирилла, Архиепископов Александрийских. В 1869 году церковь постиг пожар, после пожара она была отремонтирована без заметных изменений первоначальной архитектуры. По воспоминаниям старожилов, в годы гонений на Русскую Православную Церковь храм не закрывался, в нем совершалось Богослужение. Храм Троицы является одним из ранних образцов культового зодчества русского стиля на Брянщине, подражающих памятникам архитектуры домонгольской Руси.

Церковь Троицы расположена на высоком берегу Десны в центре села и доминирует в окружающем ландшафте. По типу – это четырехстолпный одноглавый храм, в плане квадратный, с высоты имеет три полукруглых апсиды, с запада примыкает небольшое помещение паперти с колокольней над ней. Куб церковного зала завершен световым барабаном, покоящимся на подпружных арках, и увенчан куполом с небольшой головкой под крестом. Церковь каменная на высокой подклети, декоративный убор – граненые полуколонны, ступенчатые карнизы и тяги, килевидный фронтон, обрамления окон и дверей выполнены из кирпича, без штукатурки. Своеобразно устроена колокольня – в виде глубокой полукруглой ниши, огражденной балюстрадой.

Троицкая церковь представляет собой оригинальный образец новорусского стиля XIX века, начальной стадии его развития. Это свидетельствует о том, что Брянский уезд был далеко не медвежьим углом в области культуры. Архитектурой своих построек он составлял часть пленительного облика Земли Русской. 27 июля 1986 года в северном приделе храма был освящен Престол в честь Введения во храм Пресвятой Богородицы. С 2008 года храм является – Свято-Троицким Архиерейским подворьем.