Увлеченный искусством, Павел Михайлович начал собирать художественную коллекцию национальной русской живописи, пользуясь советами известного критика Владимира Стасова и других специалистов. Годом зарождения его галереи принято считать 1856. Тогда он приобрел картины "Искушение" Шильдера и "Финляндские контрабандисты" Худякова. Затем последовала покупка работ Алексея Саврасова, Константина Трутовского, Федора Бруни, Льва Лагорио, Карла Брюллова, других живописцев. Можно сказать, что уже с самого начала коллекционирования Третьяков имел ясное представление о цели своего труда. В завещании, составленном через четыре года после покупки первых картин, он писал: "Для меня не может быть лучшего желания, как положить начало общественного, всем доступного хранилища изящных искусств, принесущего многим пользу, всем удовольствие".
Своей почти полувековой собирательной деятельностью, поддержкой наиболее талантливых и ярких художников Третьяков оказал влияние на формирование художественной культуры России второй половины 19 века и помог ее расцвету.
В 1874 году меценат построил для своего собрания великолепное здание, открыв его в 1888 году для бесплатного посещения. А в 1892 году передал коллекцию и здание в дар Москве. До конца жизни Третьяков продолжал покупать картины для галереи и завещал проценты со своего капитала на будущее ее пополнение, положив начало музею мирового уровня. В 1893 году он был избран действительным членом Академии художеств.
Умер Павел Михайлович в 1898 году.
