На месте современного Крестовского моста в Москве, на Рижской площади, когда-то стояли две башни-близнецы, построенные в конце XIX века для поддержки Мытищинского водопровода. Их возведение финансировал купец и городской голова Москвы Николай Александрович Алексеев, который активно вкладывал свои средства в общественные проекты и пользовался уважением среди москвичей.

Башни имели высоту 40 метров и диаметр около 20 метров. Вода поступала в напорные баки башен с насосной станции и хранилась там, прежде чем направиться в центр города. На верхних этажах размещались бассейны с водой, а ниже находились жилые и служебные помещения работников водопровода. На первом этаже располагался Музей московского городского хозяйства, который сейчас известен как Музей Москвы.

Башни соединял ажурный мост, украшенный иконами Георгия Победоносца и Божией Матери «Живоносный источник». Архитектором этих сооружений был Максим Карлович Геппенер, известный своими тяжеловесными и угрюмыми проектами. Хотя башни были функциональными, их внешний вид многим казался непривлекательным и напоминал Бутырскую тюрьму. Однако это не стало основной причиной их сноса. Башни находились на оживленной магистрали, и мост между ними, высотой всего около 12 метров, мешал движению транспорта. В 1939 году башни снесли, а Ярославское шоссе реконструировали.

С появлением в 30-х годах канала Москва-Волга проблема водоснабжения города была решена, а открытие Восточной водопроводной станции сделало Крестовские башни ненужными. Были попытки их реконструкции, и многие архитекторы предлагали проекты по их сохранению, но ни один из них не был реализован.