Детство Джона прошло в Милуоки. Окончив колледж Carroll, он стал летчиком. В годы 2-й мировой войны служил в авиации. После войны Болл работал радиокомментатором, помощником куратора планетария, музыкальным редактором на радиостанции «Бруклинский орел». Много лет прослужил летчиком. Написал более 10 романов. Наиболее известен его антирасисткий роман 1965 года «Душной ночью в Каролине» с участием чернокожего детектива Вирджила Тиббса. За этот роман он получил премию Эдгара По как лучший дебют года. Роман был экранизирован. Роман вошёл в список «100 самых лучших романов XX века по версии Независимой ассоциации торговцев детективной литературы».
Кроме романа «Душной ночью в Каролине», перу писателя также принадлежат такие книги, как «Операция „Трамплин“», «Операция „Космос“», «Космомастер 1», «Первая команда», «Фургон» и другие.
Отступлением от жанра детектива в творчестве Джона Болла был политический триллер «Первая команда». Действие происходит после капитуляции США Советскому Союзу (который так и не называется в книге) без единого выстрела.