Архітектурний комплекс складається з двох будівель – самої графської садиби (двоповерховий особняк, нижній поверх – в стилі ренесансу, верхній – в стилі бароко, з 12 кімнатами), а також картинної галереї, яку добудували до вже наявного архітектурного комплексу в стилі пізнього бароко.
У складні 90-ті роки ХХ століття Будинок вчених деякі «діячі» хотіли привласнити, щоб відкрити у ньому бізнес-клуб, але його директор – Галина Валентинівна Терещенко – зуміла домогтися, звернувшись до ЮНЕСКО, щоб Будинок вчених залишився надбанням Одеси і одеситів.