Джон Уильям Чивер родился в маленьком городке Куинси в штате Массачусетс в семье Фредерика Линкольна Чивера и Мэри Лили Чивер. Отец будущего писателя владел компанией по продаже обуви, однако в середине тридцатых годов из-за Великой депрессии потерял большую часть своего капитала, а вместе с ним и бизнес. Для оплаты счетов и поддержания семьи Мэри Чивер была вынуждена взять дела в свои руки и открыть небольшой магазин сувениров. Несмотря на это финансовое положение семьи не поправилось, и ввиду нехватки денежных средств Чивер вынужден покинуть частную школу. В это же время он пишет свой рассказ «Исключенный», опубликованный в журнале The New Republic. В 1935 году еженедельник The New Yorker публикует его рассказ «Буффало», а в 1938 году Чивер начинает работать в Вашингтоне в качестве редактора. Он уходит не проработав и года. Через несколько месяцев он встречает свою будущую жену Милтон. Пара поженилась в 1941 году.
В мае 1942 года Чивер поступает на военную службу. Через некоторое время выходит его первый сборник рассказов «Как живут некоторые люди». Второй сборник рассказов «Исполинское радио» публикуется в 1953 году. Летом 1956 года писатель заканчивает работу над романом «Хроники семейства Уопшотов». В 1964 году был опубликован роман-продолжение «Скандал в семействе Уопшотов», получивший отличные оценки критиков. В июле 1964 года The New Yorker публикует рассказ «Пловец», который будет экранизирован через два года. Главную роль в фильме сыграет Берт Ланкастер. В это же время у Чивера возникают первые проблемы с алкоголем.
Следующая работа писателя роман «Буллет-Парк» выходит в 1969 году, однако, получает очень низкую оценку критики. Алкоголизм автора прогрессирует и он вынужден обратиться за помощью к психиатрам. В мае 1973 года Чивер чуть не умирает от отека легких. После месяца, проведенного в больнице, он возвращается домой и дает зарок отказаться от алкоголя. Однако уже в августе он снова начинает пить. В течение следующих двух лет Чивер борется с алкогольной зависимостью и после терапии в реабилитационном центре окончательно отказывается от пагубной привычки.
Новый роман автора выходит в свет в 1977 году. «Фальконер» становится бестселлером. В 1978 году публикуется сборник «рассказы Джона Чивера», отмеченный Пулитцеровской премией.
Летом 1981 года у Чивера обнаруживают опухоль в почках. Последний роман Чивера «Какая райская картина» публикуется в марте 1982 года. Он включает не более ста страниц, однако получает хорошие отзывы критиков по причине того, что всем уже известно о неизлечимой болезни автора. 18 июня 1982 года Чивер умирает.