В конце XV века Иван III решил обновить обветшавший белокаменный Кремль, построенный при Дмитрии Донском. В 1485 году Антон Фрязин начал строительство стрельницы на месте Чешковых ворот. Здесь был выкопан тайный колодец, который вел к речке, что и дало название башне. Благодаря этому колодцу, во время осады крепости защитники могли получать воду, что затрудняло захват Кремля. Внутри башни находилось просторное помещение с сводчатыми потолками. Отводная стрельница соединяла башню с каменным мостом, а также имелись подъездные ворота со специальным подъемным мостиком.

Первое документальное изображение башни датируется началом XVII века. В то время она была покрыта деревянной крышей, над которой находился часовой чулан с колоколом. Отводная стрельница с машикулями и зубцами была увенчана деревянным шатром.

На Тайницкой башне дежурили стражники, следившие за пожарной безопасностью Москвы. Они поднимали тревогу и звонили в колокола, заметив дым или огонь на улицах столицы.

С течением времени Москва менялась, и Тайницкая башня претерпевала изменения. В 1770-1771 годах, в связи с планами строительства Кремлевского дворца, башню разобрали, а в 1783 году восстановили, но уже без отводной стрельницы. В 1812 году она пострадала от взрывов, и в 1816-1818 годах была вновь восстановлена. В 1862 году стрельницу восстановили в стиле XVII века.

В 1930-1933 годах башня подверглась реставрации: стрельницу снова разобрали, колодец засыпали, а проездные ворота заложили снаружи.