Родился и вырос в Нью-Йорке. Сын протестантского священника. Выпускник Принстонского университета. В молодости много переводил — и прозу, и поэзию. И работал как переводчик с испанского, французского и латыни.
В 1960-х приобрёл известность как автор антивоенных стихов. Позднее обратился к мифологическим темам и разработал уникальную просодию, характеризующуюся косвенным стилем повествования и отсутствием пунктуации.
Жил в разных странах мира, пока в конце 1970-х годов не переехал на Гавайи, где живёт и поныне, занимаясь помимо литературного труда проблемами экологии.
Мервин получил много наград, в том числе Пулитцеровскую премию в области поэзии (в 1971 и 2009 годах), премию Таннинга, одну из самых высоких наград Академии американских поэтов, а также «Золотой венец» (1990). Поэт-лауреат США (2010).