В 1535 году по указу Елены Глинской, матери Ивана IV, началось строительство каменной Китайгородской стены. До этого на её месте были ров с земляным валом и деревянные укрепления для защиты от врагов. Будущую крепость освятил митрополит Даниил, и после крестного хода строители начали укладывать первые камни.

Руководил строительством Петрок Малый, который возвёл четыре башни с воротами: Сретенские, Троицкие, Всехсвятские и Косьмодемьянские. Стена была построена за три года и охватывала площадь в 63 гектара, начиная от Кремлёвской Беклемишевской башни вдоль Москвы-реки и до Арсенальной башни. Она была ниже кремлёвских стен, но толще, с площадками для орудий. Её длина составляла 2567 метров, ширина 4 метра, а высота более 6 метров.

Башни Китай-города выступали за линию стены, что позволяло вести обстрел вдоль укреплений. В башнях было три ряда бойниц, а орудия располагались в несколько ярусов. На верхней части стены были площадки для пушек, защищённые мерлонами. Внутри башен находились подвалы для хранения боеприпасов и подземные ходы. По образцу Китайгородской стены были построены укрепления Серпуховского кремля, Троице-Сергиевой лавры и Белого города.

Китайгородская стена внесена в Красную книгу "Архнадзора" как объект культурного наследия Москвы, находящийся под угрозой.

В 1666 году начался ремонт укреплений, а в 1680-х их обновили, добавив шатровые завершения на некоторых башнях. При Алексее Михайловиче были построены Воскресенские ворота. Во время Северной войны Пётр I приказал укрепить стену, опасаясь нападения Карла XII. В 1708, 1709 годах инженер Василий Корчмин возвёл земляные бастионы, перекрывшие Неглинку.

В XVIII веке стены утратили военное значение. В 1782 году начался ремонт под руководством Франческо Рузка, но средств хватило только на участок до Варварских ворот. В 1796, 1800 годах вдоль Москвы-реки была создана набережная, и стена оказалась частично в земле. Территория рядом с ней продавалась за бесценок, а к башням пристраивали различные постройки. В 1807 году обрушился участок стены длиной 23 сажени.

В 1806 году указ разрешил застройку стены лавками и её ремонт за счёт владельцев. В 1813 году часть стены была разобрана для ремонта Кремля. Архитектор Вильям Гесте предложил снести часть стены, но генерал-губернатор Фёдор Ростопчин настоял на её сохранении.

В 1819, 1823 годах бастионы были снесены, а Ильинские ворота открыты для проезда. В 1870 году стена была разрушена на шесть саженей для Третьяковского проезда. В конце XIX века Московское археологическое общество создало комиссию по охране стен.

В 1925 году началась реставрация под руководством Николая Виноградова и Н. А. Всеволожского. Работы продолжались до 1932 года, но обсуждался и снос стены для расширения улиц. В 1932 году было принято решение о сносе стены для нужд Метростроя.

Демонтаж начался от Третьяковского проезда и завершился в 1934 году. Обломки использовали для строительства метро. В 1935 году на месте стены открылась станция метро "Дзержинская".

Сохранились несколько фрагментов стены: на площади Революции, часть фундамента Варварской башни и в Китайгородском проезде. В 1968, 1973 годах стена вдоль Китайгородского проезда была отреставрирована.

В 1995, 2000 годах под давлением общественности были восстановлены некоторые элементы стены. В 2017 году археологи обнаружили в основании крепости помещения XVI века и другие артефакты, которые теперь хранятся в музее "Зарядье".