Пётр Ярошевич родился 8 октября в городе Несвиж в Российской империи. После окончания средней школы в Ясло начал работать учителем школы в городе Гарволин. После начала второй мировой войны между нацистской Германией и Советским союзом он переехал в оккупированную Советским Союзом зону Польшы. Он был директором гимназии в Пинске. 10 июля 1940 года он был депортирован в Слободку, Красноборский район, г. Архангельск, из Столина вместе со своей первой женой Оксана Грегорьевной (родился в Salov/Calow 1914) и дочерью Олилой (род. 1940). В 1943 году он вступил в ряды 1-ой Польской армии под командованием генерала Зигмунда Берлинга. Через год он вступил в партию польских рабочих и был политически повышен до заместителя командира 1-ой армии.
После войны он стал заместителем министра обороны (1945—1950). С 1956 года он стал представителем Польши в СЭВ. Также в промежутке между 1952 и 1970 он служил заместителем премьер-министра Польши, некоторое время он также являлся министром горного хозяйства (1954—1956). Ярошевич был членом Центрального Комитета (ЦК) ПОРП с момента его создания в 1948 а также членом Политического Бюро с 1964. С декабря 1970 и до февраля 1980 он являлся Премьер Министром Польши. Экономическая политика Ярошевича и Эдварда Герека вызвала волну протестов в 1976 и 1980. После его провала в подавление движения «Солидарность» в 1980 он покинул свой пост и был исключён из партии.
Пётр Ярошевич и его вторая жена Алисия Сольска были убиты при загадочных обстоятельствах в их доме в Анине близ Варшавы 1 сентября 1992 года. Судьба его первой жены и дочери неизвестна.
Это убийство (наряду с делом Марека Папалы и Станислава Булак-Балаховича) одно из самых больших загадок современной Польши.