Граф Павел Сергеевич Шереметев родился в семье графа Сергея Дмитриевича Шереметева и Екатерины Павловны, урождённой Вяземской.
Окончил историко-филологический факультет Императорского Санкт-Петербургского университета. В течение года отбывал обязательную воинскую повинность в лейб-гвардии Измайловском полку. Вышел в запас в чине прапорщика. В 1899—1911 годах — звенигородский уездный предводитель. Упоминается в воспоминаниях В. Ф. Джунковского как лицо, пренебрегавшее всеми служебными обязанностями предводителя дворянства. В 1900 году получил чин камер-юнкера, в 1906 году — колежского советника, в 1910 году — камергера. Участник русско-японской войны (1905—1906 годы). Состоял уполномоченным Российского Общества Красного Креста от московского дворянства. Находился в действующей Северо-Восточной армии, его задачей была доставка грузов, организация госпиталей и складов Красного Креста. При его участии во Владивостоке был организован военный госпиталь на 1000 мест, в станице Новокиевской оборудован санитарный склад. В 1906 году награждён медалью Красного Креста «За труды, понесённые во время военных действий на пользу больных и раненых воинов». С началом Первой мировой войны прапорщик запаса граф Шереметев был призван в ополчение, где так же занимался помощью раненым. В действующей армии пробыл весь 1915 год.
Член Общества любителей древней письменности; Русского генеалогического общества, Историко-родословного общества, член-соревнователь Императорского общества истории и древностей российских при Московском университете, член Санкт-Петербургской и Ярославской учёных архивных комиссий, член Общества защиты и сохранения памятников искусства и старины. С 1903 года — член либерального кружка «Беседа», участником которого был В. И. Вернандский. Член кружка «Патриаршая беседа». Член комитета по подготовке к празднованию 100-летия Отечественной войны 1812 года. Член комитета по подготовке празднования 300-летия Дома Романовых. С 1916 года — член Гос. Совета от дворянских обществ.
Талантливый художник. Ученик К. Я. Крыжицкого и А. А. Киселёва. В 1911 году был товарищем председателя Всероссийского съезда художников и председателем Комитета выставки иконописи и художественной старины.
После Октябрьской революции до 1927 года был заведующим Музеем-усадьбой Остафьево под Москвой, где работал над описанием коллекций живописи и скульптуры, осуществлял систематизацию коллекций оружия, гемм, литографий и книг. В июне 1928 года — уволен. С осени 1929 года, после ликвидации музейного статуса Остафьева, был выселен и жил с семьей в Напрудной башне Новодевичьего монастыря, писал статьи, оставшиеся в рукописях.
Член Всероссийского союза писателей (1921).
С 1921 года женат на Прасковье Васильевне (урождённой княжне Оболенской;1883-1941), которая в 1922—1928 годах работала с мужем в музее Остафьево. В браке родился сын: