В 1961 году Виктор Петрович Ершов, преподаватель географии в Медвежьегорской школе-интернате № 4, организовал с учениками краеведческие походы по окрестностям. В результате этих походов было собрано множество находок, которые стали первыми экспонатами школьного музея. 7 апреля 1962 года на базе этой школы-интерната был открыт Медвежьегорский историко-краеведческий музей, который изначально носил именно такое название.

За первый год работы музей посетило более тысячи человек. Руководителем музея стал Виктор Петрович Ершов, который вместе с учениками продолжал организовывать походы и собирать новые экспонаты для коллекции.

В 1969 году, по решению Совета Министров Карельской АССР, школьный музей был преобразован в филиал Государственного историко-архитектурного и этнографического музея-заповедника «Кижи». В 1977 году он снова изменил свой статус, став филиалом Карельского государственного краеведческого музея. С 1991 года музей получил самостоятельность и стал называться «Медвежьегорский городской музей».