Музей был основан 1 января 1890 года по инициативе П. С. Михно, местных купцов, ссыльных и кяхтинской интеллигенции. После визита семьи Потаниных в Кяхту в 1890 году был создан временный комитет для поиска средств на содержание музея, и начали появляться первые экспонаты. Первым хранителем стал П. С. Михно.

В 1892 году на средства купца И. Д. Синицына была арендована квартира площадью 40 м² и приобретено оборудование для музея. К 1893 году коллекция музея насчитывала более 2 тысяч экспонатов. Купец А. Д. Старцев подарил музею каменный дом, а хранителем стала учительница Е. Н. Соколова.

В создании музея участвовали политические ссыльные Н. А. Чарушин, Попов, Моллесон и Левин. Из-за сопротивления властей музей не имел утверждённого устава и не считался официальным учреждением. В 1893 году Д. А. Клеменц прочёл лекцию в Кяхте о задачах местных музеев и предложил открыть отделение Императорского русского географического общества (ИРГО). 13 июля 1894 года в Кяхте было открыто отделение общества, и музей стал его подразделением. Руководителем отделения ИРГО был врач Ю. Д. Талько-Грынцевич. 1 января 1895 года музей открылся для посещения по воскресеньям.

С 1894 по 1897 годы отделение ИРГО и музей проводили экспедиции по юго-западному Забайкалью. Музей организовывал спектакли, концерты и лекции. В формировании коллекции участвовали В. А. Обручев, Д. А. Клеменц и П. К. Козлов. Были собраны коллекции по различным научным направлениям, а в Монголии приобретены предметы буддийского культа и быта.

К 1904 году фонды музея достигли 14 тысяч единиц, а к 1911 году было опубликовано 185 научных работ. В период Первой мировой войны научная деятельность музея почти прекратилась, а во время Гражданской войны музей едва не закрылся.

31 января 1922 года Правительство Дальневосточной Республики передало музей Министерству народного просвещения. Музей получил финансирование, штат сотрудников и двухэтажное здание, построенное купцом Нерпиным в 1847 году. Летом 1921 года П. С. Михно возобновил научные экспедиции и в апреле 1922 года снова стал хранителем.

После образования Бурят-Монгольской АССР музей перешёл под управление Бурнаркомпроса. На 1 января 1924 года в коллекции было 19 989 экспонатов. В 1923 году музей посетило 4 190 человек, проведено 27 школьных экскурсий. Коллектив состоял из 5 человек, поэтому в 1924 году был создан ученический краеведческий кружок. С 1927 года кружок выпускал журнал «Следопыт», позже переименованный в «Кяхтинский краевед».

Летом 1930 года музей исследовал Боргойскую степь, собрав разнообразные образцы флоры и фауны. В 1931 году коллекции музея выросли до 50 тысяч единиц.

В 1940 году, к 50-летию музея, ему присвоили статус республиканского и имя академика В. А. Обручева. После войны музей организовал краеведческие кружки и выпускал газету «За советскую науку».

В 1964 году сотрудники помогли создать краеведческий музей в Сухэ-Баторе, Монголия. В 1970-е годы они работали над музеем Монгольской Народной революции в Алтан-Булаке. В 1975 году в Новоселенгинске открылся филиал Кяхтинского музея, Музей декабристов.

В 1981 году из библиотеки музея выделили фонд редких книг. В 1982 году был создан Музей народного творчества народов Забайкалья. В 1984 году при участии музея открылся народный музей в Шараголе.

В 1980-1990-е годы музей участвовал в археологических исследованиях. В 1996 году на его базе прошёл Международный конгресс археологов.

В 2004 году сотрудники работали над созданием «Музея Российско-Монгольской дружбы». В 2009 году они совместно с археологами начали раскопки хуннского могильника Оргойтон.

Музей проводит Чайную церемонию с дегустацией чая, заваренного по старинным рецептам, предлагая до 8 видов чаёв.