Джозеф Хеллер родился в Кони-Айленд, Бруклин, в бедной еврейской семье выходцев из России (отец Хеллера работал разносчиком), и пытался писать уже в детстве. Закончив в 1941 году школу им. Авраама Линкольна, Хеллер в течение года перепробовал несколько работ — помощника кузнеца, курьера, клерка, — после чего в 1942 году (в возрасте 19 лет) вступил в ряды американских ВВС.
Через два года он был отправлен в Италию, где выполнил 60 боевых вылетов на бомбардировщике B-25 в качестве бомбардира. Позже Хеллер писал, что война ему «…поначалу показалась веселой… Возникло чувство, что есть в ней что-то очень славное».