Эрман изучал египтологию в Лейпциге и в Берлине, был учеником Георга Эберса.
С 1883 — внештатный, а с 1892 штатный профессор египтологии в Берлинском университете.
С 1885 — директор египетского отдела Берлинского королевского музея. С 1882 Эрман совместно с Генрихом Бругшем начал издавать «Журнал египетского языка и древней истории» (Zeitschrift f?r ?gyptische Sprache und Alterthumskunde).
В 1897 Эрман стал инициатором создания Берлинского словаря египетского языка. На основе египетских текстов разного времени Эрман исследовал развитие языка, выделил отдельные периоды египетского языка, выявил родственные связи египетского и семитских языков. Грамматики Эрмана неоднократно переиздавались и переводились на другие языки.
Учениками Эрмана были К. Зете, Г. Штейндорф, Л. Борхардт, В. Шпигельберг, Г. Шефер.
В 1893—1895 у Эрмана учился русский египтолог Б. А. Тураев, который позднее перевёл на русский язык его «Египетскую грамматику».
Эрману принадлежит более 200 работ по различным вопросам египтологии.