Родился 16 апреля 1947 года в Пэйсли, Шотландия. В 1978 году Рафферти выпустил сольный альбом City to City, сингл из которого «Baker Street» стал хитом (#3 UK, #2 US) и позже был признан классикой софт-рока. Альбом в июле 1978 года возглавил списки Billboard 200 и впоследствии — с общим тиражом в 5.5 миллионов экземпляров — стал в США мультиплатиновым. Успех имел и второй альбом Night Owl; заглавный трек из него поднялся до 5-го места в британском хит-параде синглов. В 1980-х годах Рафферти стал постепенно терять популярность, в основном — из-за нежелания давать концерты.
В 2008 году Джерри Рафферти поступил на обследование в клинику St Thomas' Hospital (по поводу проблем с печенью). 1 августа 2008 года он исчез из больничной палаты, не взяв с собой ничего из вещей . 17 февраля 2009 года газета «Гардиан» сообщила о том, что Рафферти скрывается у друзей где-то на юге Англии. Позже представитель певца Пол Чарльз сообщил «The Independent», что Рафферти жив и здоров, но не собирается больше ни записываться, ни гастролировать.
После госпитализации в ноябре 2010 года в больницу Борнмута по подозрению в печеночной недостаточности, Джерри прожил до 4 января 2011 года.