По происхождению — грек, православный (его родители — эмигранты из Греции, область Лакония). Бакалавр Принстонского университета (1954), в 1957 окончил также Баллиольский колледж Оксфордского университета (Великобритания), после чего в 1960 г. завершил юридическое образование в Гарварде.
Получил известность как один из авторов Закона Сарбейнза-Оксли о защите интересов инвесторов, который был принят после серии скандалов, связанных с тем, что руководители крупных корпораций намеренно искажали бухгалтерскую отчётность, чтобы завысить стоимость активов своих корпораций. Закон Сарбейнза-Оксли имеет противоречивую репутацию: его противники считают, что закон во многом ограничивает свободный бизнес и вводит «чрезмерный» контроль над бизнесом.
Его сын, Джон Сарбейнз, с 2006 года является конгрессменом от штата Мэриленд.