З давніх часів на місці сьогоднішнього собору розміщувалися духовні об’єкти. Вважається, що неподалік знаходився перший католицький костел міста — Святого Хреста. Монастирський комплекс бернардинів з’явився тут у ХVІІ столітті, до нього входив монастир з костелом. Першочергово задумувалося, що костел буде збудовано у формі троянди, навколо якої буде знаходитися підковоподібний монастир. Але потім від цієї ідеї відмовилися і костел звели у стилі пізнього бароко. Після того як бернардини залишили місто у 1853 році, храм передали православним. Тоді ж костел перебудували, його центральну частину увінчав купол, а над центральним входом звели дзвіницю. Собор освятили у 1880 році на честь Святої Трійці.
Всередині зберігся прекрасний дубовий позолочений двоярусний іконостас, виконаний у псевдоросійському стилі. В дзвіниці собору встановлено дев’ять дзвонів, один із них найстарший, подарований ще російським імператором Олександром ІІІ, і має вагу 2,5 тони. Також у храмі збереглися цінні ікони та розписи на стінах.
