Иностранный член Болгарской АН (1946).
Окончил Вятскую духовную семинарию и в 1904 году историко-филологический факультет Юрьевского университета. Впервые печататься начал во время учебы в университете. Основные труды о русской народной поэзии и говорах опубликовал в 1900—1915 годах. Большинство его работ связано с родным краем, куда ученый приезжал в экспедиции, а затем поддерживал тесные отношения со своими земляками, активно участвуя в работе Вятской учёной архивной комиссии. С 1916 года Зеленин возглавлял кафедру русского языка и словесности в Харьковском университете. В 1925 году стал профессором кафедры этнографии Ленинградского университета, а также избран членом-корреспондентом АН СССР.
Был награжден орденом Трудового Красного Знамени и медалями.
В развитии восточно-славянской фольклористики заметную роль сыграли сборники сказок, составленные Зелениным и его мысли о значении русских частушек, об эстетических возможностях этого фольклорного жанра. Этнографические работы Зеленина посвящены, главным образом, материальной культуре и верованиям восточных славян. Его работы признаны во всём мире.