Окончил механико-математический факультет Московского государственного университета, преподавал в высших учебных заведениях и параллельно учился на Высших курсах сценаристов и режиссёров. Первый роман опубликовал в 1965. В 1985 г. стал членом правления Союза писателей СССР, в 1987 г. вошёл в редколлегию журнала «Знамя». Живет и работает в Москве. Возглавлял жюри Национальной литературной премии «Большая книга».
В 1965 г. опубликовал первый роман «Прямая линия», в 1971 г. увидела свет повесть «Безотцовщина». Впоследствии на протяжении двадцати лет практически каждый год выпускал по новой книге — большей частью сборники, содержавшие как уже опубликованные, так и новые произведения (рассказ «Ключарев и Алимушкин», 1974; повесть «Голубое и красное», 1975; роман «Портрет и вокруг», 1978).
В произведениях конца 1960-х — начала 1970-х критика находила кинематографические эффекты. С начала 1980-х Маканин все чаще обращается к народной культуре и использует в своих произведениях фольклорные и мистические мотивы (роман «Предтеча», 1982; повесть «Утрата», 1987, и другие).
Одним из самых известных его произведений является «Андеграунд, или Герой нашего времени» (1999).
Для Маканина в первую очередь важно психологическое проникновение в души героев, спорящих с самими собой и с окружением. Он проявляет меньше интереса (и дарования) к сюжетосложению.