Родился 4 августа (23 июля по старому стилю) 1877 года.
Окончил Лесной институт (1900) и университет (1908) в Петербурге.
Профессор Донского политехнического института в Новочеркасске (1920—1923), Ленинградского (1923—1947) и Московского (1935—1936, 1947) университетов.
С 1923 года работал в системе АН СССР, с 1925 — старшим научным сотрудником Почвенного института им. В. В. Докучаева. Был директором этого института. Член КПСС с 1951 года.
Основные труды посвящены вопросам происхождения почв и формирования коры выветривания, значению организмов в почвообразовании и выветривании, классификации и геохимической характеристике ландшафтов.
Был репрессирован: арестован 11 мая 1937 в Москве, увезен на Лубянку, обвинен в том, что был резидентом английской разведки. Затем переведен в Ленинград, в Кресты. Освобождён из тюрьмы 28 марта 1939 «за прекращением дела № 23283» (в другой справке: «освобожден из-под стражи за прекращением следствия по его делу»). Общим собранием Академии наук 29 апреля 1938 был исключён из числа членов-корреспондентов, 28 июня 1939 — восстановлен. По «делу Полынова» также были арестованы несколько сотрудников Почвенного института — В. М. Боровский, А. Ф. Большаков, А. И. Троицкий, Г. И. Григорьев; обвинения — подготовка вооружённого восстания и терактов.
Умер 16 марта 1952 года.