Александр Вяземский родился 3 (14) августа 1727 года и происходил из княжеского рода, ведущего начало от внука Владимира Мономаха, князя Ростислава Мстиславича. В возрасте двадцати лет он окончил Сухопутный шляхетский корпус. Во время Семилетней войны с Пруссией он не только участвовал в сражениях, но и выполнял секретные задания командования, которые едва не стоили ему жизни. К концу войны Вяземский занимал должность генерал-квартирмейстера и был известен императрице Екатерине II. В декабре 1762 года она поручила ему урегулировать отношения между крестьянами и их хозяевами на уральских заводах. Почти год он занимался этой задачей, пока в декабре 1763 года его не заменил генерал-майор А. И. Бибиков.

3 (14) февраля 1764 года Екатерина II, убедившись в честности Вяземского, назначила его генерал-прокурором Сената и лично написала ему «секретнейшее наставление», определив его обязанности. Императрица напоминала, что генерал-прокурор должен быть откровенен с государем, так как его задача, противостоять сильным мира сего, и в этом ему поможет только императорская власть. Она подчеркивала, что не требует «ласкательства», а лишь честности и твердости в делах. Екатерина II предостерегала его от дворцовых интриг и советовала руководствоваться только пользой отечества и справедливостью.

Вяземский строго следовал наставлению и пользовался доверием императрицы, что позволило ему удерживать пост почти 29 лет и расширить свои полномочия. В начале карьеры он возглавлял Сенат и контролировал продажу соли и вина, а с 1780-х годов управлял юстицией, финансами и внутренними делами. Он ввел строгую отчетность в финансовых делах и учет доходов и расходов.

Генерал-прокурор руководил Тайной экспедицией, через которую проходили все значимые политические дела эпохи Екатерины II, включая дела Е. Пугачева, А. Н. Радищева и Н. И. Новикова. При нем активную деятельность вел С. И. Шешковский, известный как «домашний палач кроткой Екатерины».

Вяземский активно руководил прокурорами и ввел «Учреждения для управления губерний» в 1775 году, регламентировавшие права и обязанности местной прокуратуры. За свои заслуги он получил множество наград, включая ордена Св. Андрея Первозванного, Св. Александра Невского, Св. Анны и другие. Он имел чин генерал-поручика и действительного тайного советника.

В сентябре 1792 года Вяземский по болезни вышел в отставку, и его обязанности были распределены между несколькими людьми. Д. Н. Бантыш-Каменский писал о нем как о верном престолу, бескорыстном и трудолюбивом человеке, который умел выбирать достойных помощников, но был скуп и завистлив.

Князь Вяземский умер от паралича 9 (20) января 1793 года, и его могила находится в Благовещенской церкви Александро-Невской лавры. Его усадьбу Мурзинка унаследовала дочь Анна, а затем её внук Антон Апраксин.