Расширяя дело отца, наследники объединили его льноткацкую и льнопрядильную фабрики под общим названием «Новая Костромская мануфактура льняных изделий», доведя число работников до 5 тыс. человек. Продукция мануфактуры славилась своим высоким качеством, а производство отличалось современным уровнем технического оснащения.
Уже в то время молодого купца Павла Третьякова серьезно интересовали книги по истории искусств, археологии, русской истории и географии. А московское купечество той поры буквально охватила настоящая «картинная горячка»: предприниматели скупали полотна в магазинах, заводили знакомства с художниками, следили за распродажами картин на аукционах. Считалось, что коллекционирование произведений искусства – весьма выгодное вложение капитала. Не остался в стороне от этого «движения» и Третьяков.
Однажды на Сухаревке, где юноша всегда покупал книги, ему приглянулся десяток недорогих рисунков. Затем у него появились картины, написанные маслом, в основном голландских мастеров. Позднее Третьяков заинтересовался русским изобразительным искусством. Личное знакомство с «Картинной галереей тайного советника Федора Ивановича Прянишникова» и посещение Эрмитажа в Петербурге окончательно утвердили Павла Матвеевича в мысли заняться собирательством живописи. Сперва Павел покупал работы своих еще малоизвестных современников. В 1856 г. он приобрел картины В.Г. Худякова «Стычка с финляндскими контрабандистами» и Н.Г. Шильдера «Искушение». Этот год и считается временем рождения его знаменитой коллекции.
В 1860 г., впервые отправившись за границу по делам своего Торгового дома и для самообразования, 29-летний П.М. Третьяков составил «завещательное письмо». В нем говорилось: «Капитал же сто пятьдесят тысяч р. серебром я завещаю на устройство в Москве художественного музеума или общественной картинной галереи». Далее предприниматель уточнял, что «желал бы оставить национальную галерею, то есть состоящую из картин русских художников». Подчиняясь именно этому желанию, он продолжал свою собирательскую деятельность. Один из старейших сотрудников основателя музея вспоминал, что Третьяков «определенно говорил: "Картины будут принадлежать всему народу". И нам, служащим галереи, постоянно внушал, что мы охраняем и заботимся о народном достоянии».
Вот как характеризовал собирателя критик В.В. Стасов: «С гидом и картой в руках, ревностно и тщательно, пересмотрел он почти все европейские музеи, переезжая из одной большой столицы в другую, из одного маленького итальянского, голландского и немецкого городка в другой. И он сделался настоящим, глубоким и тонким знатоком живописи. И все-таки он не терял главную цель из виду, он не переставал заботиться всего более о русской школе. От этого его картинная галерея так мало похожа на другие русские наши галереи. Она не есть случайное собрание картин, она есть результат знания, соображений, строгого взвешивания и всего более глубокой любви к делу».
Будучи самоучкой, Павел Михайлович обладал эрудицией ученого-искусствоведа и высочайшей культурой. Близкие говорили о нем: «Ни разу даже дворника или кучера на "ты" не назвал, не стыдился извиниться перед подчиненным, если был не прав, ни на кого голоса не повышал». Не имея специального образования, Третьяков, тем не менее, раньше других распознавал талантливых художников. Взявшись за дело колоссального размаха и затратив на него миллионное состояние, Павел Михайлович никогда не переплачивал за картины больше того, что считал нужным, зато мог заплатить автору вперед, давая возможность тому спокойно работать. В быту бизнесмен избегал роскоши и излишеств для того, чтобы иметь средства помогать нуждающимся.
В 1865 г. П.М. Третьяков женился на Вере Николаевне Мамонтовой, которая была на 13 лет моложе супруга. В браке родилось шестеро детей – два мальчика и четыре девочки. Один из сыновей, Иван, умер в 8-летнем возрасте от менингита, другой, Михаил, пережил отца, но был душевнобольным. Из дочерей две, Александра и Мария, вышли замуж за братьев Боткиных – Сергея и Александра Сергеевичей. Вера Павловна была женой известного музыканта А.И. Зилоти, а Любовь Павловна вышла за художника Н.И. Гриценко.
Растущая коллекция фабриканта Третьякова располагалась в небольшом двухэтажном особняке в Лаврушинском переулке, где Павел Михайлович поселился в 1851 г. с матерью, сестрами и семьей брата Сергея. Туда молодой женой пришла Вера Николаевна, там выросли все их дети, оттуда девочки вышли замуж. К 1872 г. картин насчитывалось уже более полутора сотен, места в гостиной не хватало, и хозяева решили сделать пристройку. Спустя два года у южной стены дома появилось двухэтажное здание с двумя залами, внутренним переходом в жилую часть и отдельным входом с улицы. «Галерея, – писал предприниматель Стасову, – существует с 1874 года. До того картины были в доме, и публика не допускалась. С 1874 г. допускались знакомые, потом и посторонние, но свободно стало возможно посещать только с 1881 года».
Так в старом замоскворецком переулке появилось одно из первых в России специализированных зданий для размещения художественного собрания. На первом этаже на перегородках были помещены работы старых мастеров, на стенах против окон – пейзажи С.Ф. Щедрина, Ф.М. Матвеева, М.И. Лебедева, М.Н. Воробьева. На втором этаже в высоком просторном зале находились работы современников – В.Г. Перова, В.И. Якоби, В.В. Пукирева, К.Д. Флавицкого и других. Юридически галерея оставалась частной, но любой человек, «без различия рода и звания», мог бесплатно прийти сюда почти в любой день недели.
В 1882 г. здание снова расширилось, как и в первый раз, за счет территории близлежащего сада. Появились три новых зала внизу и столько же наверху, где были размещены Туркестанская серия и этюды из путешествия по Индии В.В. Верещагина. Картине В.И. Сурикова «Утро стрелецкой казни» нашлось место в первом зале второго этажа новой пристройки. Там же оказались полотна А.К. Саврасова и других художников 1860 – 1870-х гг. Следующий зал посвятили произведениям И.Н. Крамского и Ф.А. Васильева. Еще три зала в верхнем этаже и пять в нижнем были пристроены спустя три года. Это позволило упорядочить экспозицию и разместить работы И.Е. Репина, Н.А. Ярошенко и Н.Н. Ге. На перегородках залов были выставлены пейзажи, в том числе полотна И.И. Левитана. Кроме того, было выделено место для этюдов и эскизов А.А. Иванова (всего в коллекции насчитывалось более 70 его произведений).
П.М. Третьяков часто выступал не только как собиратель уже написанных картин, но и как организатор, являвшийся в определенной мере соучастником замысла художников. Бизнесмен всегда был в курсе того, над чем работает тот или иной мастер. Его переписка с Репиным, Крамским, Перовым, Ге, Верещагиным и другими полна конкретных замечаний и советов, показывающих, насколько тонко и профессионально понимал живопись хозяин костромской льнопрядильной фабрики и как с его мнением считались крупнейшие и талантливейшие русские художники.