Харолд Вармус родился 18 декабря 1939 года во Фрипорте (Нью-Йорк). Окончил Амхёрстский колледж, затем поступил в Гарвардский университет, где проучился по специальности литература лишь один год, после чего перешёл в Колумбийский колледж врачей и хирургов (Нью-Йорк). После окончания медицинской школы проработал в Колумбийском пресбитерианском госпитале в 1968—1969 годах и прошёл короткую стажировку в Национальном институте здоровья, где начал изучать как цАМФ регулирует экспрессию бактериальных генов. В 1970 году переехал в Сан-Франциско в Университет Калифорнии как пост-докторант в лаборатории Майкла Бишопа. С 1970 года — профессор отдела микробиологии и иммунологии. С 1984 года — именной профессор молекулярной вирусологии.
В 1989 году Бишоп и Вармус получили за свои исследования Нобелевскую премию по физиологии и медицине.
Директор Национального института здоровья (1993—1999). С 2000 года — президент и управляющий Мемориального онкологического центра Слоан-Кеттеринг (Нью-Йорк).