Наприкінці ХІХ ст. Троїцька церква вже не вміщувала усіх віруючих, тому староста Павло Харитоненко запропонував духовному відомству за власні кошти побудувати поряд нову церкву, яка б за формою нагадувала Ісакіївський собор у Петербурзі.
У 1901-1914 рр. Троїцький собор було зведено за проектом сумського архітектора Густава Шольца. Проект мозаїчної підлоги храму розробив російський зодчий Олексій Щусєв. Над інтер’єром, вітражем та іконостасом храму працювали відомі живописці Нівінський, Петров-Водкін та Нестеров.
Після 1917 р. собор пережив складні часи, його неодноразово закривали. У роки Другої Світової війни приміщення були пошкоджені. За радянських часів майже 30 років у соборі знаходився склад галантерейних товарів. З 1988 до 2001 р. тут розташовувався органний зал Сумської обласної філармонії. Нині храм знаходиться у володінні громади Української православної церкви Московського патріархату.
