Первые иконы для собрания П. М. Третьяков купил у известного иконоторговца Ивана Лукича Силина.
В 1890-е гг, как и в более раннее время, общество воспринимало древних иконописцев иначе.
«…На рубеже 19-20 вв отношение образованной части общества к русской иконописи было, мягко говоря, пренебрежительным. Икона воспринималась не как произведение искусства, а как некая ремесленная поделка, неотъемлемый атрибут «мужицкой культуры». Для того чтобы понять, что икона - это «умозрение в красках», это богословская идея, выраженная при помощи изображения, необходимо было совершить переворот в сознании русской интеллигенции…Вплоть до конца 19 века икона была объектом интереса почти исключительно собирателей-старообрядцев».
Люди искусства, заинтересовались иконой лишь на рубеже веков. И. С. Остроухов, приятель Третьякова, первым взглянул на икону, как на свидетельство высоких художественных достижений древнерусского художника. Это произошло в 1907 г. Благодаря Остроухову в 1911-1913, пришлось настоящее «иконное движение».
В 1890 году, когда Третьяков приобрел первые иконы, его поступок мог расцениваться как чудачество…
Бахрушин А. П. сообщает, что в те времена знатоками иконописи были старообрядцы: И. Л. Силин, Н. М. Постников, С. Т. Большаков.
Не зря И. Н. Крамской говорил про Третьякова, что «…это человек с каким-то, должно быть, дьявольским чутьем». Третьяков сумел распознать красоту древней живописи задолго до того, как к ее изучению обратились специалисты.
После 1890 года Третьяков купил большое собрание древних икон у генерала Егорова. В собрании были иконы строгановских писем, новгородских, московских.
Третьякову удалось составить собрание из 62 икон 15-17 вв. Историк Н. П. Лихачев писал: «…оно драгоценно и поучительно по качеству икон.