В 1794 году историк Н. Ильинский приехал в Нижний Новгород, чтобы собрать информацию о Козьме Минине. Он обнаружил, что над могилой героя нет ни памятника, ни надписи, и предложил установить монумент. С 1804 года над скульптурной композицией начал работать И. П. Мартос. После завершения эскизов весной 1809 года в Нижегородской губернии был организован сбор средств. К 1811 году было собрано 18 000 рублей, но 15 февраля того же года Комитет министров решил установить памятник в Москве.

20 февраля 1818 года монумент был установлен в центре Красной площади, а год спустя Академия художеств объявила конкурс на проект обелиска с барельефами для Нижнего Новгорода. Победителями стали А. И. Мельников и И. П. Мартос. А. А. Бетанкур предложил разместить его в центре кремлёвского плац-парада, но в 1825 году было решено возвести обелиск на одной оси с военным Успенским собором. 15 августа 1828 года после военного парада Нижегородского гарнизона обелиск был торжественно открыт.