Строительство здания затянулось из-за Первой мировой войны и было завершено в 1918 году. Это стало последней реализованной работой выдающегося архитектора Р.И. Клейна, который активно трудился в Москве почти четыре десятилетия.

Участок для здания Геологического и Минералогического институтов был выбран рядом с комплексом Старого Университета, что фактически завершило формирование классической панорамы Московского Университета на Моховой улице напротив Кремля.

Для Р.И. Клейна облик Геологического института имел особое значение из-за выдающейся истории комплекса Старого Университета. Московский Университет был основан в 1755 году, и в 1757 году для его размещения была приобретена усадьба князя Репнина на Моховой, современный участок Старого Университета. В середине 1780-х годов под руководством М.Ф. Казакова здесь был построен грандиозный ансамбль, который сильно пострадал во время Отечественной войны 1812 года и был восстановлен под руководством Д.И. Жилярди при участии А. Григорьева в стиле московского ампира. Элементы этого стиля были использованы Р.И. Клейном в здании Геологического института. Главный корпус Университета, созданный М.Ф. Казаковым и Д.И. Жилярди, был расположен в глубине парадного двора, а центральная часть фасада была выделена дорическими колоннами под фронтоном. В лепной декорации фасада использованы мотивы триумфальной архитектуры Древнего Рима, венки победителей, гирлянды из дубовых листьев и военная арматура.

Для строительства комплекса Геологического института важны два обстоятельства. Во-первых, здание возводилось в период празднования в Москве 100-летия Отечественной войны 1812 года с участием Императора Николая II. Во-вторых, Р.И. Клейн строил его после завершения строительства Музея изящных искусств им. Императора Александра III, открытого в 1912 году. Обращение к классицизму и ампиру в решении Геологического института стало развитием предыдущего опыта Клейна. Фактически, это здание, блестящая стилизация на темы архитектуры Д.И. Жилярди.

Здание Геологического института представляет собой прямоугольный объем, расположенный перпендикулярно улице Моховой, отделенный от комплекса Старого Университета переулком. Со стороны этого прохода Клейн добавил два ризалита, создавая подобие двора перед зданием, напоминающего парадный двор Старого Университета. Здание обращено к Кремлю торцевым фасадом, а на фасадах использованы портики из тосканских пилястр, что развивает композицию Д.И. Жилярди и создает связь между соседними зданиями конца XVIII века, 1820-х годов и здания 1910-х годов. Как и Жилярди, Клейн использовал лепную декорацию в стиле московского ампира с мотивами триумфальной архитектуры Древнего Рима.

В здании проводится поддерживающий ремонт.