Я. К. Голованов родился 2 июня 1932 года в Москве в артистической семье. Дед — Н. Н. Голованов — переводчик «Божественной комедии» Данте Алигьери с итальянского на русский язык. Отец, К. Н. Голованов был основателем и первым директором Московского передвижного театра драмы и комедии (Театр Транспорта, ныне Московский драматический театр им. Н. В. Гоголя), работал в управлении театров Комитета по делам искусств при СНК РСФСР, был одним из руководителей Центрального дома культуры железнодорожников. Мать Анфиса Васильевна Голованова (урожденная Козлова) под псевдонимом Андреева была ведущей актрисой Театра Транспорта. В 1941 с семьёй эвакуирован в Омск, в 1943 вернулся в Москву.
Более 10 лет был специальным корреспондентом газеты на космодроме «Байконур» и в ЦУПе.
Я. К. Голованов умер от инсульта 21 мая 2003 года в Москве.
Главная тема творчества — космонавтика. С темой космоса связаны книги «Кузнецы грома», «Этюды об ученых», «Этюды о великом», «Архитектура невесомости», «Наш Гагарин», «Марсианин», «Космонавт N 1». Книга «Дорога на космодром» — история космонавтики от мифического Икара до Ю. А. Гагарина. Около 30 лет проработал над фундаментальной биографией главного конструктора С. П. Королёва «Королев. Факты и мифы», вышедшей в издательстве «Наука» в 1994 г.
В феврале 1966 года как автор повести «Кузнецы грома» по рекомендации Б. Н. Полевого и В. П. Аксёнова принят в СП СССР.
В 1966—1970-е гг. входил в коллектив авторов-фантастов, печатавшихся под псевдонимом Павел Багряк. В 1998—1999 гг. опубликовал записные книжки «Заметки вашего современника».
В 1960-е, в конце 1980-х и в начале 1990-х приглашался в жюри Высшей лиги КВН.
В июле-августе 1965 году проходил медицинское обследование в Институте медико-биологических проблем Министерства здравоохранения СССР в рамках подготовки полёта в космос журналиста (в группе совместно с Ю. А. Летуновым из «Всесоюзного радио» и полковником М. Ф. Ребровым из газеты «Красная звезда»), однако программа была свёрнута. При подготовке полёта японского журналиста Тоёхиро Акияма в 1989 году Голованов активно выступал за приоритетность полёта советского журналиста в космос, но не получил положительного заключения по результатам медико-биологических исследований.
Первая жена — Валентина Журавлёва, дочь генерал-майора танковых войск А. Г. Журавлёва. Сыновья Василий (р. 1960) и Александр (р. 1965).
Вторая жена — Наталья Ласкина, дочь Бориса Ласкина. Сын Дмитрий (р. 1974).
Третья жена — Евгения Альбац (впоследствии развелись). Дочь Ольга (р. 1988).