Даффи наиболее известен благодаря роли Бобби Джеймса Юинга в большой мыльной опере Dallas (Даффи играл свою роль в 1978—1985 и 1986—1991 гг.), а также Фрэнка Ламберта в ситкоме компании ABC Step by Step. В марте 2006 года Даффи начал играть роль Стивена Логана в шоу компании CBS The Bold and the Beautiful. В конце того же года он ушёл из шоу, но вернулся 5 ноября 2007 года.
С 1974 года Даффи женат на Кэрлин Даффи; у них двое сыновей. Бывший католик, в настоящее время Патрик является буддистом.