Історія музейної справи в Херсоні розпочалася близько 1890 року, коли археолог Гошкевич заснував тут археологічний музей. У 1909 році він подарував колекцію місту. Згодом за ініціативою благодійника Миколи Гедройца музей Гошкевича доповнили експозицією творів образотворчого мистецтва. Завдяки широким зв’язкам мецената музейна колекція наповнювалася картинами, скульптурами і гравюрами відомих митців того часу. Наприкінці 1930-х років колекція налічувала 700 експонатів. На жаль, в часи гітлерівської окупації більша її частина була вивезена до Німеччини.
Після війни музей у Херсоні відновив свою роботу, однак художній відділ у ньому з’явився лише у 1966 році. Важливим моментом в історії музею став 1976 рік, коли музей отримав понад 500 унікальних творів мистецтва та книг. Таку велику колекцію музею заповіла Марія Корніловська, відома колекціонерка. Вже через 2 роки художній відділ краєзнавчого музею виокремився в самостійний художній музей. У 1981 році музей отримав ім’я уродженця Херсона Олексія Шовкуненка. Приводом послужило те, що вдова художника передала музею понад 50 картин майстра.
Сьогодні експозиція музею налічує близько 11000 експонатів, серед яких є картини Айвазовського, Крамського, Лансере.
