Петр Иванович Щукин родился 18 февраля 1853 года в Москве в семье старообрядцев, известного фабриканта Ивана Васильевича Щукина. У него было десять братьев и сестер: семь братьев и четыре сестры. Среди его братьев были Дмитрий, Николай, Иван и Сергей Щукины.

Петр и его брат Николай учились в пансионе Гирста в Петербурге. После окончания в 1871 году Петр хотел поступить в университет, но отец отправил его в Берлинское практическое торговое училище. В Берлине он посещал лекции по физике Гельмгольца. После окончания училища он работал в торговом доме Абельсдорфа и Майера в Берлине, а с весны 1874 года, на ткацкой фабрике Савена и Барраля в Лионе, изучая производство шелковых тканей. Жил он скромно, почти не получая помощи от родителей. В 1876 году он начал работать в комиссионерском доме Warburg и К в Лионе с жалованьем в две тысячи франков. Здесь он начал коллекционировать французские книги и портреты известных личностей.

Летом 1878 года Петр вернулся в Москву, а в декабре того же года его отец основал торговый дом «И. В. Щукин с сыновьями», куда вошли Петр и его братья Николай и Сергей. В начале своей коллекционерской деятельности он сосредоточился на персидских коврах и изделиях японских, китайских и индийских мастеров.

С начала 1890-х годов Щукин увлекся коллекционированием памятников отечественной истории. Он приобретал старинные предметы на ярмарках в России и у европейских антикваров, что подтверждается его перепиской.

В 1891 году, после смерти отца, Щукин купил участок на Малой Грузинской улице для размещения своей коллекции. Архитектор Б. В. Фрейденберг спроектировал музей «Российских древностей», строительство которого началось в мае 1892 года и завершилось в сентябре 1893 года. В музее были представлены старинные гравюры и предметы искусства из Персии, Японии и России.

В начале XX века Щукин активно участвовал в выставках-продажах частных коллекций, приобретая как целые собрания, так и отдельные предметы из известных коллекций.

В 1897 и 1898 годах по проекту архитектора А. Э. Эрихсона было построено новое здание музея. В 1905 году напротив него архитектор Ф. Н. Кольбе возвел одноэтажный склад.

В 1905 году Щукин передал свою коллекцию Российскому Историческому музею в Москве, за что получил звание действительного статского советника. Он продолжал заботиться о музее до конца жизни.

В августе 1907 года Щукин женился на Марии Ивановне Пономарёвой, у которой было двое сыновей от первого брака. В 1908 году он снял квартиру для семьи в Мансуровском переулке.

Петр Иванович Щукин скончался в 1912 году от гнойного аппендицита и был похоронен на кладбище Покровского монастыря.