Родился в семье учителя древних языков, впоследствии священника. Окончил гимназию в Кишинёве, начал учиться на историко-филологическом факультете Московского университета, но после службы во флоте перевёлся на экономический факультет Хозяйственной академии РККА и Флота; работал в Управлении высшими морскими учебными заведениями и в Штабе командующего морскими силами Республики. После женитьбы на дочери академика Карского принимает решение возобновить изучение филологии; окончил этнолого-лингвистический факультет Петроградского университета, специализировалося (под руководством Карского) по языку древнерусских памятников. Профессор (1930), заведующий кафедрами в Могилёве, Новгороде, Симферополе, Львове и др. (частые переезды были вызваны болезнью сына, умершего от туберкулёза в 22 года). Кандидат филологических наук (1938, без процедуры защиты). С 1939 г. участвует в диалектологических экспедициях.
Внёс вклад в изучение исторического синтаксиса русского языка, которому посвящены его наиболее значительные работы, в том числе «Синтаксис древнерусских грамот» (1949), за который в 1950 г. ему была присуждена докторская степень. С 1950 г. в Москве, принимает активное участие в изучении и издании недавно открытых новгородских берестяных грамот. Заместитель директора (1950—1954), директор (1954—1960) Института языкознания АН СССР. С 1960 — в Институте русского языка АН СССР, где заведует созданным им сектором сравнительно-исторических исследований синтаксиса восточнославянских языков. Под его редакцией и с его участием была подготовлена четырёхтомная монография «Сравнительно-исторический синтаксис восточнославянских языков» (1968—1974). Автор популярного учебника «Историческая грамматика русского языка» (1963, в соавторстве с П. С. Кузнецовым), редактор коллективной «Исторической грамматики русского языка. Синтаксис» (1978, 1979); его последняя книга — «Синтаксис сказок: русско-белорусские параллели» (1981).
Главный редактор журналов «Русский язык в школе» и «Русская речь», первый заместитель председателя Советского комитета славистов; член-корреспондент (1958), академик (1972) АН СССР.
Скончался в 1982 году, похоронен в Москве, на Головинском кладбище (участок 17).
Автор работ, посвященных историческому синтаксису восточнославянских языков, в том числе древнерусского языка, а также русской диалектологии.