Филипп родился 22 октября 1869 года в селе Казанка Оренбургской области. Его родители были бедными крестьянами, и в многодетной семье об образовании не задумывались. Отец считал, что из бедных крестьян ученые не выходят. Однако Филипп с детства проявлял интерес к рисованию, изображая углем на стенах и воротах. Тяга к творчеству передалась ему от дедушки, который занимался резьбой по дереву. Грамоте его обучил местный фельдфебель.

Когда Филиппу исполнилось 16 лет, в село приехал монах с Афона, который гостил у родственников. Вместе с ним Филипп отправился в Грецию, чтобы научиться писать иконы. Деньги на поездку собирали всем миром. На Афоне он оказался в русском монастыре святого Пантелеймона, где стал послушником, соблюдал устав и работал в иконописной мастерской.

Филипп прожил там семь лет и, вероятно, остался бы навсегда, если бы не случай. В то время известный русский скульптор Владимир Александрович Беклемишев, путешествуя по Европе, решил посетить православную святыню. Увидев работы Филиппа Малявина, он был поражен его тонким чувством тона и точностью рисунка. Беклемишев уговорил монахов отпустить Филиппа, привез его в Петербург и поселил у себя.

Осенью 1892 года двадцатитрехлетний Филипп пришел на экзамен в Императорскую Академию художеств. Он выделялся среди других: простые черты лица, монашеская одежда, длинные волосы. Бормоча что-то под нос, он крестил рисунок. Экзамен он сдал успешно и освоил программу головного класса за два месяца. В 1894 году Малявин начал заниматься в мастерской Ильи Репина, писал портреты однокурсников и на заказ.

Работал он быстро, как импрессионисты, и его картины часто вызывали сенсацию. От изображений благородных господ он перешел к теме крестьян, близкой ему. Две работы, написанные летом 1895 года, "Крестьянка, вяжущая чулок" и "За книгой", купил Третьяков.

В 1899 году Малявин написал картину "Смех" для защиты диплома, изображая смеющихся женщин в ярких нарядах. Профессора отклонили работу, сочтя ее безыдейной и вызывающей. Звание художника Малявин получил благодаря ходатайству Репина за портреты, выставленные ранее.

Через год картину "Смех" отправили на Всемирную выставку в Париж, где она получила золотую медаль. Ее показали в Венеции, и итальянское правительство купило картину для музея современного искусства.

После успеха Малявина включили в книгу "История русской живописи XIX века". Он женился, купил усадьбу под Рязанью и в 1906 году его избрали академиком. После этого Малявин отправился в Париж.

В 1911 году он представил семейный портрет, который разочаровал зрителей, ожидавших экспрессии и характеров. После этого у художника наступил творческий кризис.

Новые работы появились только в 1916 году, и вместо смеющихся лиц с полотен смотрели угрюмые и недружелюбные.

После революции Малявин переехал в Рязань, где содействовал открытию картинной галереи и художественных мастерских, немного преподавал.

В 1919 году прошла его первая персональная выставка. Малявина пригласили в Москву, где он делал зарисовки Ленина, Троцкого и написал портрет Луначарского.

В 1922 году он выехал с семьей в Париж для организации выставки и остался там. Через два года состоялась его вторая персональная выставка. Затем он переселился в Ниццу, продолжая писать картины. Филипп Малявин скончался 23 декабря 1940 года в возрасте 71 года и был похоронен на русском кладбище.