Учился в Галле и Фрейберге, ездил на учёбу во Францию и Британию. В 1812 году стал профессором в Граце. В 1818 году переехал на Горную академию во Фрейберг, в 1826 году — в Вену.
Самым важным изобретением Мооса является шкала твёрдости минералов, названная его именем.