Калпакс родился 6 января 1882 года на хуторе Лиепсалас Мейранской волости (на территории нынешнего Мадонского района) в семье крестьянина Петра Колпака. Решив стать военным, он окончил Иркутское военное училище, и был выпущен подпоручиком в 183-й Пултусский пехотный полк. В 1911 году он - поручик, в 1915 - штабс-капитан, в 1916 - капитан, в 1917 - подполковник. Он проявил командирский талант и героизм в боях Первой мировой войны и получил самую почетную награду русских офицеров, знаком Отличия Военного ордена святого Георгия. После Октябрьской революции выбран на совете солдатских депутатов командиром полка. После расформирования полка, летом 1918 года вернулся в оккупированную Лифляндию.
После провозглашения Латвией независимости 18 ноября 1918 г., Калпакс после 2 недель просьб был принят на службу в министерство обороны. Активно участвовал в создании вооруженных сил - Ландесвера (ополчение). После т.н. бунта Рижских латышских рот и насильного расформирования 1 и 2 роты 31 декабря, началось массовое дезертирство. Преданность Временному правительству сохранили только остзейские части, русская рота и 3 латышские роты (Цесисская, офицерская и студенческая роты). Латышские роты в начале января объединили в отдельном латышском батальоне, командиром которого назначили Калпакса, в чине полковника. Под давлением красных стрелков части Ландесвера отступали на запад до реки Вента, где фронт стабилизировался. Под его предводительством отдельный латышский батальон стал боеспособным вооружённым формированием и основой будущей Латвийской армии. С января до марта 1919 отдельный латышский батальон в составе группы капитана Дормогена отражал рейды большевиков в Курземе (Курляндии). 6 марта 1919 при наступлении близ Айритес Калпакс был убит в случайной перестрелке с солдатами Железной дивизии, которые одетых в русскую униформу латышей спутали с большевиками.
Хотя он официально не назначался на этот пост или должность, Калпакс считается первым главнокомандующим латвийских вооружённых сил.