Филлип Шарп родился 6 июня 1944 года в городе Фалмут (Кентукки). Сделал докторскую диссертацию в Университете Иллинойса в 1969 году. Работал до 1971 года в Калифорнийском технологическом институт, а затем в Лаборатории в Колд Спринг Харбор под руководством Джеймса Уотсона. С 1974 года работает в Массачусетском технологическом институте.