Публичный музей в Каргополе был основан в 1919 году. Его создателем и первым руководителем стал каргопольский мещанин Капитон Григорьевич Колпаков (1845, 1922), чья коллекция послужила основой для музейного собрания. В его коллекции были этнографические экспонаты, рукописи, оружие, портретная живопись и фарфор.

27 марта 1919 года был заключен договор о передаче коллекции из почти 600 предметов от К.Г. Колпакова уездному отделу народного образования, что стало датой основания музея в Каргополе. Изначально музей размещался в доме Капитона Григорьевича.

В 1923 году музею было передано здание Крестовоздвиженской церкви, ныне не существующей, и он впервые открылся для широкой публики. В 1933 году музею вместо одного церковного здания передали другое, церковь Введенская. В 1920-е годы в музей поступали иконы, книги, церковная утварь из закрывающихся церквей и монастырей, а также предметы из богатых семей. Их хранили в Христорождественском соборе, переданном музею в 1936 году.

До начала 1980-х годов в музее был единственный выставочный зал в Введенской церкви, где размещалась краеведческая экспозиция. В начале 1980-х годов музею передали церковь святых Зосимы и Савватия, а вскоре в его состав вошла Троицкая церковь. В 1993 году музею передали архитектурные ансамбли в селах Лядины, Ошевенск и Саунино. С 1994 по 1996 годы в составе музея находилась церковь Иоанна Предтечи, позже переданная епархии. В 1995 и 2004 годах в музей вошли исторические здания гражданской архитектуры: дом мещанина Блохина и дом лесопромышленника Вагера.

Сейчас фонды музея насчитывают более 48 тысяч единиц хранения, из которых 33 тысячи, основной фонд. Народный костюм, каргопольская вышивка, золотное шитье, роспись по дереву, рукописные и старопечатные книги, церковная скульптура и иконопись составляют лучшие коллекции музея. Научный интерес представляют коллекции рукописных и старопечатных книг, а также картографическая коллекция.

В музее постоянно проходят выставки, посвященные древнерусскому и народному искусству, историческая и детская экспозиции. Коллекция каргопольского женского костюма XIX, начала XX века является основой выездной выставки «Тепло женской души». Музей курирует множество культурных проектов.

Выставочные залы музея расположены в зданиях культовой архитектуры: Соборе Рождества Христова, Введенской церкви и церкви Зосимы и Савватия. В июле 2009 года музею было передано двухэтажное гражданское здание, где создан Музейно-выставочный центр. Здесь находятся Библиотека Русского Севера им. Г.П. Гунна, а также экспозиции и выставки, представляющие музейные коллекции и привозные выставки.