Родился в семье учителя. В 1953 окончил юридический факультет Ленинградского университета. В 1954 выступил как литературный критик, в 1956-59 был редактором отдела прозы в журнале «Новый мир».
В 1975 на Западе оказалась рукопись его повести «Верный Руслан», написанной в 1963—1965. После исключения из Союза писателей СССР в 1977 публиковался за рубежом, в изданиях НТС («Посев», «Грани»), руководил московской секцией организации «Международная амнистия».
Под угрозой судебного процесса в 1983 выехал в ФРГ. С 1984 по 1986 был главным редактором журнала «Грани».
Известность получили его повесть «Верный Руслан» и роман «Генерал и его армия», в одном из героев которого без труда узнаётся генерал Власов накануне его перехода к немцам. Этот роман получил премию Русский Букер в 1995 году. Одноимённые кинофильмы сняты по повестям Владимова «Большая руда» (1964) и «Верный Руслан» (1991).