Одно только перечисление его учеников звучит как великая музыка: Давид и Игорь Ойстрахи, Натан Мильштейн, Борис и Михаил Гольдштейны, Михаил Вайман, Михаил Фихтенгольц, Елизавета Гилельс (сестра великого пианиста), Эдуард Грач, Самуил Фурер, Роза Файн, Валерий Климов; композитор Оскар Фельцман, писатель Исаак Бабель (запечатлевший Столярского под именем профессора Загурского в рассказе «Пробуждение», 1931), по классу камерного ансамбля — пианист Яков Зак.

Петр Столярский родился в семье потомственных клезмеров. С трех лет он играл в семейном ансамбле. В юности учился в Киеве у известного педагога О. Шевчика, затем в Варшаве у С. Барцевича. Занимался также у Э. Млынарского. Становлению музыканта способствовало знакомство и дружба с Л. Ауэром, главой петербургской скрипичной школы.

В 1900 Столярский окончил Одесское училище РМО по классу скрипки у Й. Карбульки. В 1898–1919 играл в оркестре Одесского оперного театра. В 1911 при помощи Л. Ауэра и дирижера Одесской оперы И. Прибика открыл частную школу. С 1920 преподавал в Одесской консерватории (с 1923 профессор).

В 1933 основал первую в СССР специальную музыкальную школу-десятилетку для одаренных детей, названную при жизни его именем (сам он называл свое детище «Школа имени мене…»).  А.Б. Гольденвейзер, ознакомившись с принципами педагогики школы Столярского, настоял на том, чтобы по ее образцу были открыты школы в Москве (ЦМШ) и Ленинграде. Эвакуировавшись в Свердловск во время войны, Столярский и там создал подобную школу. Позже такие школы были открыты во многих городах СССР.

В 1930-х ученикам Столярского не было равных на музыкальных состязаниях. На всесоюзных и международных конкурсах побеждают Д. Ойстрах, С. Фурер, Е. Гилельс, М. Фихтенгольц, Я. Зак. Триумфом педагога стал международный конкурс имени Э. Изаи в Брюсселе (1937): по решению жюри (в которое входили выдающиеся скрипачи XX века Ж. Тибо, Й. Сигети, К. Флеш) I премию завоевал Д. Ойстрах, III — Е. Гилельс, IV — Б. Гольдштейн, VI — М. Фихтенгольц. Жак Тибо, живший некоторое время в Одессе и наблюдавший за занятиями Столярского, сказал: «Педагогика Столярского — то, чем должно гордиться мировое искусство».

В основе «системы Столярского» — несколько важнейших принципов. Один из них — обучение с самого раннего возраста (3–5 лет), когда костно-мышечный аппарат наиболее эластичен и податлив. Другой — комплексное обучение: не только занятия на скрипке, но и нотная грамота, камерный ансамбль, оркестр. Третий — огромное внимание к скрипичной технике: постановке рук, владению смычком, звуку, интонации и другим особенностям. Шлифуя мельчайшие детали, Столярский в буквальном смысле стоял перед учениками на коленях: так ему было удобнее наблюдать за руками и поправлять ошибки. «Гамма должна звучать как концерт!» — говорил он. Точно и образно формулируя суть исполняемой музыки, Столярский никогда не показывал, как надо играть, чтобы ученик не копировал его манеру. Напротив, он всячески раскрывал его собственную индивидуальность.

Среди других особенностей педагогики Столярского — дух состязательности, царивший в его школе, а также любовь и вкус к публичным выступлениям, которые он воспитывал в учениках с юных лет. Столярский обладал даром мгновенно и безошибочно распознавать музыкальные таланты. «Ваш мальчик обыкновенный гениальный ребенок», — одна из знаменитых его крылатых фраз. О себе он скромно говорил: «Хорошему материалу нужен хороший портной». В его классе занимались одновременно 80–90 учеников, со многими он работал по 2–3 раза в день. Его школу назвали «конвейером талантов» (Леонид Утесов), «фабрикой вундеркиндов» (Исаак Бабель).

Столярский говорил, что игра на скрипке полезна для здоровья. «Чем лучше руки двигаются, тем больше они отгоняют от человека всякие болезни», — не раз повторял он. А один из учеников получил от него такой совет: «Вполне сочувствую твоей простуде, но самое лучшее лекарство — взять скрипку в руки и не менее трех часов играть упражнения и этюды. Организм сразу разогреется, да и микробы подохнут от звуков скрипки».

В 1939 Столярскому было присвоено звание народного артиста УССР, он был награжден орденом Трудового Красного Знамени. Эвакуировавшись в начале Великой Отечественной войны в Свердловск и открыв там школу по образцу. Д. Ойстрах предлагал ему переехать в Москву, однако Столярский отказался, сославшись на то, что не может оставить школу и учеников. Весной 1944, отступая из Одессы, гитлеровцы подожгли здание школы. Это известие стало для Столярского ударом, от которого он не оправился: 29 апреля 1944 он скончался и был похоронен в Свердловске на Широкореченском кладбище. На второй день после похорон мародеры выкопали тело Столярского, раздели его догола и выбили золотые коронки. Педагога сразу же перезахоронили, а в 1953 на средства учеников на могиле установили памятник.

В Одессе памятника Столярскому до сих пор нет, но есть мемориальная доска на доме, где он жил. В дни рождения Мастера здесь всегда — живые цветы. 2 сентября 2016, к 222-летию со дня основания Одессы, на Аллее Звезд появилась звезда в честь Петра Соломоновича Столярского.

С 7 по 13 мая 2021 в Одессе проходил Второй Международный конкурс скрипачей, посвященный 150-летию со дня рождения П.С. Столярского. Его организовали скрипачи Андрей Мурза и Алексей Семененко, выпускники Одесской специализированной школы-интерната им. П.С. Столярского, при поддержке одесской мэрии. В конкурсе участвовали 65 скрипачей из 24 стран: Украины, России, США, Японии, Кореи, Франции, Германии, Нидерландов и др.

Лауреатами конкурса стали:

1 премия — Дмитрий Удовиченко (Украина).

2 премия — Хайвич Эльдерс (Нидерланды), Яков Павленко (Украина).

3 премия — Михаил Усов (Россия).