Родился в семье крестьянина в деревне Оргу Феллинского уезда Лифляндской губернии. Учился в Юрьевской учительской семинарии, затем в Петербурге сдал экзамен на звание народного учителя, работал учителем в 1905—1907 гг. С 1904 г. — член РСДРП. В 1907—1912 экстерном обучался на юридическом факультете Петербургского университета. Активный участник революции 1905-1907 года в Эстонии. Неоднократно арестовывался и ссылался.
Один из редакторов большевистской газеты «Кийр» («Луч»). Во время Февральской революции возглавлял Временный ревком Нарвы, затем Нарвский совет; был членом Ревельского и Всеэстляндского комитетов РСДРП(б).
С октября 1917 г. — член ВРК, а затем председатель Эстляндского краевого исполкома Советов. С февраля 1918 г. Ян Анвельт был военным комиссаром Северо-Западной области. С ноября 1918 г. стал председателем правительства и наркомом по военным делам Эстляндской трудовой коммуны. В 1919—1921 гг. — на руководящей политической работе в Красной Армии. В 1920 г. избран членом ЦК КПЭ.
В 1921—1925 гг. Анвельт находится на подпольной работе в Эстонии. Был одним из руководителей Перводекабрьского восстания 1924 г. В 1925 г. прибыл в СССР. В 1926-1929 гг. работал комиссаром Военно-воздушной академии им. Жуковского. В 1929—1935 был заместителем начальника, а затем и начальником Главного управления гражданского воздушного флота. С 1935 г. по 1937 г. — член и ответственный секретарь Интернациональной контрольной комиссии Коминтерна.
В 1937 году арестован. Во время допроса к нему применялись пытки и избиения. Не выдержав пыток и избиений Анвельт скончался 11 декабря 1937 года. Допрос проводил Лангфанг, Александр Иванович. Посмертно объявлен «врагом народа».
В 1956 году реабилитирован.
В 1909–1910 годы был женат на коммунистке Альме Остра (1886—1960; фамилия по второму мужу — Остра-Ойнас).
Вторым браком был женат на художнице и соратнице по революционной борьбе Алисе-Марие Леэвальд (1899—1991; в замужестве — Стейн-Анвельт), с которой имел дочь Киму и сына Яана (1936—2001).
Внук — бывший высокопоставленный полицейский чиновник, а ныне деятель Социал-демократической партии Эстонии Андрес Анвельт.