Он родился в Царском Селе в семье Александра II и Марии Александровны как пятый сын. Участвовал в русско-турецкой войне 1877, 1878 годов. С февраля 1887 года возглавлял лейб-гвардии Преображенский полк. С 26 февраля 1891 года занимал пост московского генерал-губернатора, а с мая 1896 года одновременно командовал войсками Московского военного округа в звании генерал-лейтенанта. С декабря 1894 года был членом Государственного совета. С 1892 года являлся почётным членом берлинского православного Свято-Князь-Владимирского братства, находящегося под покровительством великого князя Владимира Александровича. 4 февраля 1905 года около трёх часов дня, когда великий князь выехал в карете из Николаевского дворца в Кремле, при подъезде к Никольской башне его убила бомба, брошенная членом «Боевой организации партии социалистов-революционеров» Иваном Каляевым. За два дня до этого Каляев отказался от покушения, увидев в карете жену и малолетних племянников князя. Великий князь погиб мгновенно, кучер получил смертельные ранения, а карета была уничтожена. Тело князя было расчленено взрывом; после бальзамирования и заморозки останки поместили в гроб, который установили в соборе кремлёвского Чудова монастыря.