Музей был основан 12 декабря 1886 года как историко-археологический при Саратовской учёной архивной комиссии. Начало его коллекции положили пожертвования от частных лиц и организаций. К 1889 году в музее уже было 144 предмета.

Изначально коллекция находилась в здании, где располагалась и архивная комиссия. В 1892 году её переместили в Радищевский музей. В 1893 году составили новый каталог, в котором числилось 1500 предметов.

В 1930 году музей переехал в особняк М. А. Устинова, построенный в стиле русского классицизма в 1810-х годах.

В фондах музея хранится около 400 тысяч предметов, включая археологические, этнографические, палеонтологические и энтомологические коллекции, а также образцы рукописных и старопечатных книг, предметы религиозного культа, плакатная графика, нумизматика и материалы по политической, экономической и культурной истории города и региона.

Коллекции музея регулярно пополняются уникальными экспонатами. Например, в июне 2015 года в музей поступили дневники Н. И. Вавилова, а в декабре 2014 года, экспонаты, связанные с архитектором С. А. Каллистратовым.