El edificio fue construido en 1906 por orden de la Duma de la ciudad de Jerson. El proyecto fue desarrollado por el arquitecto ruso de origen judío Adolfo Borujovich Minjus, que vivió de 1870 a 1948.

Antes del establecimiento del poder comunista, en el edificio se encontraban los órganos de la administración municipal, instituciones judiciales y un banco.

En la década de 1920, el edificio se transformó en un museo de arte, donde la mayor parte de la colección estaba compuesta por obras de pintura rusa y de Europa occidental. Durante la ocupación nazi, una parte significativa de los exposiciones fue llevada a Alemania y Rumanía. En 1981, el museo recibió el nombre del artista ucraniano Alexei Shovkunenko.