Иван Николаевич Ельчанинов родился в 1862 году в Ярославской губернии, с которой и была связана почти вся его деятельность.
Получил агрономическое образование в Московской земледельческой школе. Заведовал Шубино-Вахтинской сельскохозяйственной школой (село Шубино Даниловского уезда). В начале XX века организовал аналогичную школу в Большом Селе Угличского уезда. Служил агрономом в Романово-Борисоглебском уезде. Был секретарём и историком Ярославского общества сельского хозяйства.
Написал несколько значительных трудов в области метеорологии, основанных на собственных длительных исследованиях; получил за них в 1894 году серебряную медаль от Общества любителей естествознания, антропологии и этнографии. Также был членом-корреспондентом Николаевской главной физической обсерватории.
В то же время имел склонность к занятиям генеалогией и много работал в архиве ярославского депутатского собрания. Работал в Ярославской губернской учёной архивной комиссии. Был членом Историко-родословного общества в Москве. Опубликовал ряд исследований, основные из них — «Материалы для генеалогии Ярославского дворянства» (единственное крупное исследование по истории местных дворянских родов) и «Материалы для истории Ярославской военной силы в Отечественную войну».
Потеряв во время пожара в Ярославле летом 1918 года своё большое собрание книг и рукописи, переехал в Москву, поступил на службу в Главное архивное управление. Умер от недоедания в 1919 году.