Харитонов родился 31 августа 1937 года в Житомире в семье служащих. В 1960 окончил историко-филологический факультет МГПИ. Работал учителем, ответственным секретарем в многотиражной газете, редактором в издательстве. С 1969 года свободный литератор, зарабатывал в основном переводами. Прозу писал с 1963 года, в печати дебютировал как прозаик повестью «День в феврале». Первая книга (сборник повестей того же названия) вышла в 1988 году. Член Союза писателей России и русского ПЕН-клуба.
Проза и эссеистика Харитонова переведена на многие языки: английский, французский, чешский, немецкий, голландский, португальский, китайский, японский, шведский, сербский, венгерский и др.
В настоящее время живёт в Москве.
[["В художественной системе Харитонова быт занимает важное место. Выписан он чрезвычайно тщательно и исторически достоверен, хотя является для автора все-таки только фоном для постановки глубоких экзистенциальных вопросов… Единицей текста становится абзац, передающий мысль, действие, мотив и сохраняющий внутри себя логическую связь, но между абзацами — пустота, как и между событиями, и в этой структуре — авторская философия: правда принадлежит не логике, часто вводящей в заблуждение, а целостности бытия, из которой, собственно, и вырастает дух жизни. Каждый абзац как бы рождается из мглы и требует отгадки, соотнесения не только с сюжетом, но с чем-то большим — надвременным и надличностным". Евгений Шкловский ]]
[["Нежнейшие обертоны при описании самой что ни на есть "грубой" фактуры, обволакивающая тайна недоговоренных сюжетов, тихое, но могучее дыхание неутолимой страсти". Андрей Немзер ]]
[["Захватывает богатство и музыка языка, эта нескрываемая ирония, которая заставляет вас то и дело смеяться... Нет сомнения, что перед нами... большой писатель". Николь Занд. Ле Монд. (Nicole Zand. Le Monde)]]
[["Большого писателя распознаешь, как художника, по самой фактуре, по неподражаемому "колориту", который ощущается во всех его работах". Жорж Нива. Ле Журналь де Женев. (Georges Nivat, Le Journal de Geneve)]]
С 2002 стихи печатались в журналах «Знамя», «Арион», «Иерусалиский журнал», «Зарубежные записки» и др.
Переводы с немецкого произведений Т. Манна, С. Цвейга, Ф. Кафки, Э. Канетти, Г. Гессе и др.