Архивные источники Норовлянского этнографического музея свидетельствуют, что деревянная приходская церковь в Вербовичах сгорела 17 апреля 1847 года. Нынешняя церковь Параскевы, расположенная в центре деревни, была построена в 1853 году на средства местного вотчинного владельца полковника Николая Брозина. Здание каменное, трёхкупольное, крестообразное в основании. В состав прихода входили села: Вербовичи, Конотоп, Гридни, Рудня-Белобережская и Белый Берег - самый отдаленный пункт прихода. С приходом большевистской советской власти отношение к церкви изменилось. Дважды 70-летний период закрывали и Вербовицкую церковь. В 30-е годы, по воспоминаниям старожилов, священника репрессировали. Нынешние прихожане вспоминают, что после того, как закрыли церковь в 1935 году, священник продолжал выполнять церковные обряды до момента его ареста. Что случилось с ним после ареста, никому не известно. До 1990-х гг. здание церкви использовали под школьный этнографический музей. Атеистическая пропаганда утаивала достоверные сведения о судьбе храмов и священнослужителей в этот период и сведения о них в литературе советского периода неполные.

Внутреннее убранство храма состояло из дощатого иконостаса, где размещалось двадцать восемь икон, поставленных в четыре ряда, и позолоченных царских ворот. Вся необходимая для службы утварь имелась, но только приборы литургийных сосудов были серебрянными. Евангелий для богослужений имелось два - одно в металлическом окладе, а другое в малиновом бархате. В архиве церкви хранились метрические книги с 1800 года.

Небольшой деревенский храм является памятником архитектуры позднего барокко, что проявилось в многогранном его плане и пластичности объемов. Крестообразное в плане кирпичное здание покрыто многоступенчатой крышей более позднего происхождения. Боковые придела и апсида решены пятигранными постройками. Оштукатурены мощные стены, расчленены высоко взятыми прямоугольными окнами с отклонением в толще стен (толщина от 0,8 м).Вход оформлен двухступенчатым крыльцом, боковые входы замурованы . Отдельно от церкви стояла колокольня, где висело пять колоколов - два чугунные весом по 10 пудов и 3 бронзовых по два пуда. Кладбищ в приходе было пять и одна приписная, в селе Конотоп, церковь.

При храме также действовали церковно-приходские школы, в деятельность которых входило решение вопросов просвещения (обучение Закону Божьему, церковнославянскому языку, церковному пению), обучения основам православной культуры в первую очередь среди крестьянства. Деятельность церковно-приходских школ способствовала повышению образованности среди местного населения, осознанию роли религии в жизни человека. Деятельность священнослужителей была связана не только со служением Богу, но и решением таких важных проблем как духовно-нравственное воспитание человека.