Первый деревянный подъемный мост через реку Мойку на Невской перспективе, ныне Невский проспект, был построен в 1716, 1717 годах и до 1726 года служил границей новой столицы. В 1735 году мост отремонтировали, покрасили в зеленый цвет и официально назвали "Зеленым". В 1768 году его переименовали в "Полицейский" из-за близости к Главной полицмейстерской канцелярии и дому генерал-полицмейстера Чичерина. В октябре 1918 года большевики дали мосту новое название, "Народный", но 13 января 1998 года ему вернули историческое имя "Зеленый".

В 1752 году деревянный мост был отремонтирован, а в 1777 году перестроен в трехпролетный с деревянными пролетными строениями на каменных опорах. В 1808 году на месте деревянного был построен чугунный однопролетный мост. Он представлял собой пологую арку из чугунных секций, соединенных болтами. Кессоны клиновидной формы изготавливались на Сестрорецком оружейном заводе под руководством инженера Карла Шпекле и на уральских заводах Н.Н. Демидова. Размеры кессонов были стандартными: 2,8 х 1,53 х 0,38 м, с толщиной 2,5 см. Швы между ними заполнялись замазкой из серы, нашатыря и чугунных опилок. Тротуары были выложены гранитными плитами, а проезжая часть отделена металлическими прутьями на гранитных тумбах. На въездах моста установили гранитные обелиски с позолоченными шарами.

Проект моста разработал В.И. Гесте, русский инженер и архитектор шотландского происхождения, который использовал идею британского инженера Роберта Фултона. Проект был признан успешным, и было решено построить серию подобных мостов через Мойку. В первой четверти XIX века по этому типовому проекту были построены другие чугунные мосты, такие как Красный и Поцелуев мосты, но первым был Полицейский мост.

В 1842 году, из-за увеличения транспортного движения по Невскому проспекту, мост расширили, вынеся тротуары на металлические консоли, а гранитные обелиски заменили чугунными фонарными столбами. Проект разработал инженер А.Д. Готтан. В 1904 и 1907 годах, в связи с прокладкой трамвайных путей, мост перестроили и расширили по проекту инженеров В.А. Берса, А.Л. Станового и А.П. Пшеницкого, а также архитектора Л.А. Ильина. Были расширены опоры, добавлены коробчатые арки, фасады украшены орнаментами, а вместо чугунных столбов установили позолоченные железные канделябры с шестигранными фонарями.

В 1938 году свод моста под трамвайными путями был изолирован рубероидом для защиты от коррозии. В 1951 году архитектор А.Л. Ротач отреставрировал торшеры с фонарями, а в 1967 году была восстановлена позолота архитектурных деталей моста.