Лайоло родился 3 января 1935 в итальянском городе Новара.
29 апреля 1960 рукоположен во священника. 3 октября 1988 назначен титулярным архиепископом Чезарианы и Секретарем администрации Церковного Имущества Апостолического Престола Римской курии. 6 октября 1989 посвящён в епископы, с титулом титулярного архиепископа Чезарианы.
С 7 декабря 1995 по 7 октября 2003 — Апостольский Нунций в Германии. С 7 октября 2003 по 15 сентября 2006 — Секретарь по отношениям с государствами Государственного Секретариата Ватикана. С 15 сентября председатель Папской Комиссии по делам государства-града Ватикан и губернатор государства-града Ватикан.
17 октября 2007 года папа римский Бенедикт XVI объявил о том, что назначит 23 новых кардинала на консистории от 24 ноября 2007 года. Среди новых пурпороносцев имя и Джованни Лайоло.
24 ноября 2007 года Джованни Лайоло был возведен в сан кардинала-дьякона с дьяконством S. Maria Liberatrice a Monte Testaccio.
3 сентября 2011 года Папа Бенедикт XVI принял, в соответствии с каноном 354 Кодекса канонического права, отставку кардинала Джованни Лайоло, с постов председателя Папской Комиссии по делам государства-града Ватикана и губернатора государства-града Ватикан, попросив его остаться исполнять обязанности до 1 октября 2011 года, со всеми присущими обязанностями своей службы. В то же время, Папа назначил главой обоих ватиканских дикастерий титулярного архиепископа Урбисальи Джузеппе Бертелло — апостольского нунция в Италии и Республике Сан-Марино, который возьмет на себя должности 1 октября 2011 года.