Філармонія знаходиться в історичному центрі Одеси. Побудована у 1899 році будівля спочатку призначалася для проведення біржових торгів, і тому в ньому знаходилась нова купецька біржа, яку звели замість старої біржі, що була на Приморському бульварі. Ця необхідність була викликана збільшенням експорту зерна через порт міста, появою залізниці і, відповідно, зростанням торгових угод. У радянські часи, коли планова торгівля прийшла на зміну біржовій, споруда змінила своє призначення: багато років тут розташовувалися різні суспільно-державні організації, проходили пленарні засідання, організовувалися літературні вечори. А з 1946 року будівлю біржі зайняла Одеська консерваторія.
Первинний вигляд будівлі практично без змін зберігся до нашого часу. Авторство проекту належало архітектору В. І. Прохасці з Відня, ескіз якого виявився кращим з тридцяти, запропонованих на всесвітньому конкурсі. Проект був перероблений головним міським архітектором О. О. Бернардацці, який згодом вклав всі свої знання і досвід у будівництво, що тривало близько п’яти років.
