Николай Иванович Ашмарин родился в Ядрине 4 октября 1870 года в семье Ивана Филипповича Ашмарина. Отец занимался торговлей в Курмыше и спустя некоторое время переехал туда. Он помог своему сыну получить прекрасное образование. После Курмышского городского училища Николай поступает в Нижегородскую классическую гимназию, осваивает много языков. Более близким был ему язык чувашей, с которыми он познакомился еще в детстве (бабушка Коли знала их разговорный язык).
С мечтой заниматься разными яыками он поступает в Москве в Лазаревский институт восточных языков. Этнографией чувашей и других «инородцев» увлекался и его брат Василий — студент Московского университета.
В 1896 году Н. И. Ашмарин получил должность преподавателя географии в Казанской «инородческой» учительской семинарии. Решив составить чувашский словарь в 1901 году Николай Иванович разослал по всем местностям, где проживали чуваши, программу по сбору материала. На его обращение помочь в сборе языкового материала откликнулись десятки учителей национальных школ и другие грамотные чуваши. Многолетней труд вышел 17-томным изданием «Словаря чувашского языка», включающим 40 тысяч слов.
В 1919—1931 годах профессор Н. И. Ашмарин работал в разных вузах — в Северо-Восточном археологическом и этнографическом институте в Казани, в Чувашском практическом институте в Симбирске, в Азербайджанском университете, в Чувашском отделении Восточного пединститута в Казани.
Талантливого ученого-чувашоведа и тюрколога знали во многих странах. Без защиты диссертации ему присвоили учёную степень доктора тюркологии, в 1929 году он был избран членом-корреспондентом АН СССР.
Он состоял членом ЦИК Чувашской АССР.
Умер неутомимый учёный 26 августа 1933 года.
Автор ряда работ о чувашском языке. Главным трудом Ашмарина является 17-томный «Словарь чувашского языка», который учёный подготавливал в течение более 30 лет. Первые два тома увидели свет в 1910 и 1912 годах. Последний, 17 том, был напечатан в 1950 году в Чебоксарах. Собирал, обрабатывал и публиковал произведения чувашского фольклора.