Настоящее имя — Джованни Пьерлуиджи; родился предположительно в Палестрине (близ Рима), по которой и получил своё прозвище.
В конце 1530-х и начале 1540-х гг. пел и учился музыке в римской церкви Санта Мария Маджоре. Среди возможных учителей Палестрины называют тогдашних капельмейстеров храма, французов Р. Маллаперта и Ф. Лебеля. С 1551 года Палестрина был назначен учителем музыки в ватиканской капелле, а затем с 1571 года, после смерти своего коллеги и одноклассника Джованни Анимуччи, капельмейстером. При папе Марцелле II положение Палестрины улучшилось. Перейдя на должность певчего капеллы, Палестрина мог посвящать большую часть времени композиторской деятельности. При папе Павле IV Палестрина, как лицо не духовное и женатый, вследствие строгих мер нового папы должен был покинуть папскую капеллу. Только место капельмейстера (1555) в Латеранской базилике и в церкви Санта Мария Маджоре избавили его от крайней бедности, в которую впал Палестрина, лишившись места в папской капелле. Палестрина похоронен в Соборе Святого Петра. В эпитафии на надгробии были начертаны слова, получившие позднее всемирное распространение в характеристиках композитора — «князь музыки» (princeps musicae).
В 1560 году Палестрина обратил на себя всеобщее внимание своими импропериями (антифоны и респонсории, приуроченные к Страстной седмице). Их простая, красивая, гармоничная музыка произвела сильное впечатление и Тридентский собор (1543—1563), считавший необходимым произвести реформы в церковной музыке, обратился к Палестрине с поручением написать пробную мессу, которая доказала бы возможность существования многоголосной музыки в церковном богослужении (многоголосная музыка, как тогда считалось, вследствие изысканности полифонической техники наносила ущерб ясности молитвословия). Палестрина написал три мессы, каждую на 6 голосов. Все три отличались замечательными достоинствами: первая выдавалась строгим стилем, вторая нежностью, глубиной чувства и изяществом, третья, как по форме, так и экспрессии, представляла высшее проявление гениальности Палестрины. Она была посвящена памяти папы Марцелла II, бывшего покровителя Палестрины, и известна под названием «Мессы папы Марцелла» (другое название — «Месса папы Марчелло»). Три мессы решили участь многоголосной церковной музыки. Папа Пий IV, услышав эту музыку, воскликнул: «Здесь Иоанн (то есть Палестрина) в земном Иерусалиме дает нам предчувствие того пения, которое св. апостол Иоанн в пророческом экстазе слышал в небесном Иерусалиме».
Отличительная черта полифонической музыки Палестрины заключается именно в том, что автор при всей её сложности смог добиться ясности, непринужденности и выразительности и вместе с тем создать истинно молитвенное настроение. К тексту Палестрина относился с большим вниманием, заботился о его правильном распеве. Палестрина — автор многих сочинений, из которых только часть мадригалов — светская музыка (другая часть — так называемые «духовные мадригалы», madrigali spirituali). Им написаны: мессы, мотеты, ламентации, гимны, оффертории, магнификаты, псалмы.