Il est né à Tsarskoïe Selo dans la famille d'Alexandre II et de Maria Alexandrovna comme cinquième fils. Il a participé à la guerre russo-turque de 1877-1878. Depuis février 1887, il a dirigé le régiment de la garde impériale Préobrajensky. À partir du 26 février 1891, il a occupé le poste de gouverneur général de Moscou, et depuis mai 1896, il commandait également les troupes du district militaire de Moscou au rang de général-lieutenant. Depuis décembre 1894, il était membre du Conseil d'État. Depuis 1892, il était membre d'honneur de la fraternité orthodoxe Saint-Prince-Vladimir de Berlin, sous le patronage du grand-duc Vladimir Alexandrovitch. Le 4 février 1905, vers trois heures de l'après-midi, alors que le grand-duc sortait en voiture du palais Nikolaïevski au Kremlin, il a été tué par une bombe lancée par Ivan Kalyaev, membre de l'« Organisation de combat du parti des socialistes-révolutionnaires ». Deux jours auparavant, Kalyaev avait renoncé à l'attentat en voyant dans la voiture la femme et les jeunes neveux du prince. Le grand-duc est mort sur le coup, le cocher a reçu des blessures mortelles, et la voiture a été détruite. Le corps du prince a été disloqué par l'explosion ; après embaumement et congélation, les restes ont été placés dans un cercueil, qui a été installé dans la cathédrale du monastère de Tchoudov au Kremlin.