Первоначально собрание Павла Михайловича Третьякова размещалось в небольшом двухэтажном доме Третьяковых в Лаврушинском переулке. Быстрое пополнение коллекции побудило владельца задуматься о сооружении специального музейного здания. В 1872–1874 годах к дому была сделана первая пристройка специально для музея, а в дальнейшем, по мере увеличения коллекции, Павел Михайлович трижды расширял свою галерею. Так в старом замоскворецком переулке выросло одно из первых в России специализированных зданий для размещения художественного собрания.
Для посетителей музей открылся в 1881 году. Вход был бесплатным, полотна разрешалось копировать. В одном зале соседствовали картины разных художников и разных эпох, иногда они висели в пять-шесть рядов: коллекционер никогда не держал произведения в запасниках. Работы художников не делились на главные и второстепенные: каждая из них считалась уникальной. Павел Михайлович знал в галерее все вплоть до последнего гвоздя, которым холст прибивался к подрамнику. Он сам покрывал картины лаком и выполнял первые реставрации.
Давно мечтавший о превращении личной коллекции в общенациональное достояние, П. М. Третьяков в августе 1892 года (после смерти брата Сергея) решил передать свою коллекцию в дар Москве. В том же году, выполняя волю умершего брата, он присоединил к этому дару и его собрание русской и западно-европейской живописи. По описи в коллекции Сергея Михайловича Третьякова, сделанной в 1892 году, значилось 75 картин западно-европейских художников, 8 рисунков, а также несколько картин и скульптур русской школы. Она была перевезена в Лаврушинский переулок и первоначально размещалась в одном из залов, а в 1898-м выставлена в двух специально для нее пристроенных залах. В 1925 году картины в основном были переданы в Музей изящных искусств, несколько – в Эрмитаж.
Третьяков обратился в городскую думу с просьбой принять его подарок. «Озабочиваясь, с одной стороны, скорейшим выполнением воли моего любезнейшего брата, а с другой – желая способствовать… процветанию искусств в России и вместе с тем сохранить на вечные времена собранную мною коллекцию, ныне же приношу в дар Московской городской думе». 15 сентября 1892 года дума приняла дар, присвоив галерее имя братьев Третьяковых. Дар коллекционера (1287 живописных произведений, 518 рисунков, 9 скульптурных работ русских художников, 75 картин и 8 рисунков французских и немецких художников) был оценен в один миллион четыреста двадцать девять рублей, что по тем временам считалось огромным состоянием. Это был внушительный итог 35-летнего собирательства. 15 августа 1893 года «Московская городская галерея имени братьев Третьяковых» торжественно открыла свои двери.
Стоит несколько слов сказать и о брате Павла Михайловича – Сергее Третьякове. При жизни этот человек был куда известнее и намного богаче своего брата, никогда не стеснял себя в средствах. Сергей Михайлович был известным московским общественным деятелем, старшиной купеческого сословия (1863–1867 годы), городским головой (1877–1881 годы). «За отличную и усердную службу» ему был пожалован чин статского советника, а за устройство в Москве Всероссийской промышленно-художественной выставки в 1882 году – чин действительного статского советника. Сергей Михайлович оказывал всяческое содействие благоустройству Москвы. Он жертвовал крупные суммы на детские приюты, больницы, училища, выкупил для города из казны Сокольничью рощу. Состоял членом московского отделения Русского музыкального общества (в 1869–1889 годах был его председателем), Московского художественного общества. В 1881–1887 годах на свои средства издавал «Художественный журнал». Участвовал в подготовке Всероссийской художественно-промышленной выставки 1882 года в Москве. В юности увлекался музыкой, брал уроки пения; близким другом братьев Третьяковых был Н. Г. Рубинштейн. Согласно его завещанию значительная сумма (125 тысяч рублей) шла на расширение коллекции брата.
Условий дарения Павел Михайлович Третьяков назвал несколько: он пожизненно остается попечителем галереи и продолжит пополнение собрания картин, а галерея должна быть «открыта на вечное время для бесплатного обозрения всеми желающими».
Дар братьев Третьяковых родному городу явился событием огромной важности и для Москвы, и для культурной жизни всей страны. Современники по достоинству оценили его, откликнувшись множеством приветствий создателю музея. К открытию галереи был приурочен 1-й Всероссийский съезд художников. Передвижники, творческие искания которых Третьяков самоотверженно поддерживал многие годы, писали в адресе собирателю: «Весть о Вашем пожертвовании давно уже облетела Россию и во всяком, кому дороги интересы русского просвещения, вызвала живейшую радость и удивление значительности принесенных Вами на его пользу усилий и жертв».
Газета «Новости» писала тогда: «Говорят, будто по покупной цене картин Третьяковская галерея стоит 1,5 миллиона рублей. Подите-ка, купите ее теперь по этой цене! Ей, милостивые государи, нет теперь цены! Она является беспримерным и бесценным художественным собранием».
Передачу Галереи городу Павел Михайлович хотел произвести как можно более тихо, не желая быть центром общего внимания и объектом благодарности. Ему это не удалось, и он был очень недоволен. Третьякова особенно огорчил собранный в Москве съезд художников, на который он не пошел, и статья В. В. Стасова в «Русской старине». Эта статья появилась в декабрьской книжке 1893 года и произвела большое впечатление. В ней впервые было обрисовано то значение, которое имело третьяковское собирательство картин для развития русского искусства и, в частности, живописи. Вот как характеризует Стасов Третьякова как собирателя: «С гидом и картой в руках, ревностно и тщательно пересмотрел он почти все европейские музеи, переезжая из одной большой столицы в другую, из одного маленького итальянского, голландского и немецкого городка в другой. И он сделался настоящим, глубоким и тонким знатоком живописи. И все-таки он не терял главную цель из виду, он не переставал заботиться всего более о русской школе. От этого его картинная галерея так мало похожа на другие русские наши галереи. Она не есть случайное собрание картин, она есть результат знания, соображений, строгого взвешивания и всего более, глубокой любви к своему дорогому делу».
Третьяков продолжал пополнять собрание. Например, в 1894 году он передал галерее 30 картин, 12 рисунков и мраморную статую «Христианская мученица» работы М. М. Антокольского; занимался изучением коллекции, с 1893 года издавал ее каталог (с 1896 года – под названием «Каталог художественных произведений Городской галереи Павла и Сергея Третьяковых»).
