El museo fue fundado en noviembre de 1920 por decisión del Comité Ejecutivo del Consejo de la Ciudad de Izhevsk y originalmente se llamaba Museo Local de Izhevsk. Su fundador y primer director fue el médico de la ambulancia veterinaria A. M. Filippov, quien combinó este trabajo con su actividad principal.

A lo largo de su historia, el museo ha cambiado de nombre varias veces. En 1929 se convirtió en el Museo Regional de Estudios Locales de la Región Autónoma Vot, en 1935, en el Museo de Estudios Locales de la RSSA Udmurta, y en 1947, en el Museo Regional de Estudios Locales de Udmurtia. En 1995, por decisión del Gobierno de la República Udmurta, fue renombrado como Museo Nacional de la República Udmurta, y el 24 de abril de 2000 recibió su nombre actual en honor al poeta y activista udmurto Kuzebai Herd.

Las primeras exposiciones del museo fueron trasladadas en 1921 de la ambulancia veterinaria al edificio de la antigua iglesia alemana en la calle Soviet, 9. En los primeros años, el museo enfrentó dificultades financieras, lo que casi detuvo su trabajo. En 1922 y 1923, el personal se redujo a una sola persona, que combinaba las funciones de encargado y vigilante. El 1 de abril de 1924, fue contratado a tiempo completo el encargado P. A. Antonov. En 1924/1925, el museo fue visitado por 27,329 personas, y para el 1 de octubre de 1925, su colección contaba con 1,508 unidades.

En marzo de 1926, el director del museo se convirtió en Kuzebai Herd, quien llegó de la escuela de posgrado del Instituto de Investigación Científica del Este en Moscú. P. A. Antonov continuó como encargado. En mayo de 1926, el museo se trasladó a la antigua casa del comerciante Novikov, y más tarde, a la calle Lenin, 7. En 1926 y 1929, el director fue M. I. Ilyin.

En 1929 y 1932, el museo fue dirigido por G. F. Sidorov. En 1931, el museo se trasladó al edificio de la Catedral de Alejandro Nevski, y en 1932, a la Catedral de Mikhailovsky, donde se creó una de las primeras exposiciones del país con el péndulo de Foucault. En 1933 y 1934, el director fue Y. K. Kondratiev, y en 1934 y 1937, A. S. Chetkarev. En 1937, el museo se trasladó a la calle Karl Marx, 23. En 1937 y 1939, el director fue N. G. Timofeev, y en mayo de 1939, fue reemplazado por M. E. Vorontsov.

En 1939, justo antes de la guerra, las exposiciones del museo fueron evacuadas a Sarapul, y en Izhevsk solo quedó una sucursal, la casa-museo de I. D. Pastukhov. En 1947, las colecciones regresaron a Izhevsk y se ubicaron en la antigua casa de Z. O. Lyatushevich. Desde 1970, el museo se encuentra en el edificio del Arsenal de la Fábrica de Armas de Izhevsk. En 1987 y 1994, durante la renovación del Arsenal, el museo se ubicó temporalmente en la calle Udmurtskaya, 214.

El museo cuenta con alrededor de 200,000 exposiciones, incluyendo armas, fuentes escritas, fotografías, monumentos históricos y arqueológicos, trajes nacionales y utensilios campesinos. La superficie de exposición y exhibición es de 2,107 m², y anualmente lo visitan hasta 200,000 personas. El museo también posee libros raros, un total de 5,700 ejemplares.

El edificio del museo, que anteriormente pertenecía al Arsenal, es un monumento arquitectónico del siglo XIX. Tiene forma de P, con la parte abierta orientada al sur, y ocupa un área de 3,000 m². El arquitecto fue S. E. Dudin, la construcción comenzó en 1823 y se completó en 1827. El emperador Alejandro I, que visitó la fábrica de Izhevsk y el Arsenal, otorgó a Dudin la Orden de Vladimir de cuarta clase. Originalmente, el edificio servía como almacén para 75,000 unidades de armas de fuego y muestras de mecanismos de fábrica.

En 1914, aquí se trasladó el taller de culatas, que anteriormente se encontraba en el territorio de la fábrica de armas. En 1975, el edificio del Arsenal fue declarado monumento de importancia federal, y en 1987 y 1994 fue restaurado.