В конце XIX в. Троицкая церковь уже не вмещала всех верующих, поэтому староста Павел Харитоненко предложил духовному ведомству за собственные средства построить рядом новую церковь, которая по форме напоминала Исаакиевский собор в Петербурге.
В 1901-1914 гг. Троицкий собор был возведен по проекту сумского архитектора Густава Шольца. Проект мозаичного пола храма разработал российский архитектор Алексей Щусев. Над интерьером, витражом и иконостасом храма работали известные художники Нивинский, Петров-Водкин и Нестеров.
После 1917 г. собор пережил сложные времена, его неоднократно закрывали. В годы Второй Мировой войны помещения были повреждены. В советское время почти 30 лет в соборе находился склад галантерейных товаров. С 1988 до 2001 гг. здесь располагался органный зал Сумской областной филармонии. Сейчас храм находится во владении общины Украинской православной церкви Московского патриархата.
