В середине XIX века саратовский купец Т. Е. Жегин предложил создать в городе ремесленное училище для детей из бедных семей и выразил готовность вложить в это значительные средства. Его предложение дошло до императора Александра II, который в 1862 году поддержал эту идею. Однако организация училища затянулась из-за медлительности местных властей. После покушения на царя 4 апреля 1866 года, совершенного уроженцем Саратовской губернии Д. В. Каракозовым, местные чиновники активизировались, чтобы восстановить престиж региона, и решили назвать училище в честь Александра II.

Здание училища построили в 1869 году на Большой Кострижной улице на месте бывшей усадьбы помещика Гладкова. Генерал Унковский выкупил землю для строительства, а Жегин пожертвовал 3000 рублей. Среди благотворителей был и московский меценат П. М. Третьяков. 30 августа 1871 года училище открылось, а на следующий день его посетил Александр II, путешествовавший по Волге.

Первый набор учащихся включал детей из малоимущих семей, которые обучались на портняжном и переплётном отделениях. Также училище готовило певчих для церковных хоров. Позже началось обучение литейщиков, слесарей, токарей, кузнецов и электриков, что способствовало обеспечению промышленности города квалифицированными кадрами. Известно, что кованую ограду парка Липки в 1908 году изготовили учащиеся этого училища. В 1873 году при училище открыли домовую церковь во имя Александра Невского на средства С. Н. Парусиновой.

С приходом Советской власти в 1919 году училище преобразовали в политехнические курсы, а затем в профтехшколу имени А. В. Луначарского, которая перед Великой Отечественной войной стала ремесленным училищем №2 металлистов. В январе 1945 года на его базе по приказу Главного управления трудовых резервов при СНК СССР открылся индустриальный техникум, ставший одним из ведущих в стране. Учащиеся техникума участвовали в благоустройстве саратовской набережной, озеленении Соколовой горы, уборке урожая и строительстве различных объектов. В 1992 году техникум преобразовали в индустриально-педагогический колледж с подготовкой по девяти специальностям.

В 1980-х годах неудачная попытка надстройки двух этажей привела к разрушению здания и его сносу. В 2001 году была построена точная копия исторического здания. В 2011 году колледж стал частью Саратовского государственного технического университета имени Ю. А. Гагарина.

В 1950-х годах в техникуме учился Ю. А. Гагарин, первый человек в космосе. У колледжа установлен его бюст, в соседнем здании работает Народный музей, а фасад нового корпуса общежития украшает мемориальная доска. Среди выпускников также А. Н. Заулошнов, А. Г. Юрлов, И. В. Якунин и В. М. Рязанов.