В сентябре 1910 года поступил на военную службу, фанен-юнкером (кандидат в офицеры), в артиллерийский полк. С января 1912 — лейтенант.
В начале войны — адъютант артиллерийского батальона. В сентябре 1914 — ранен. С января 1915 — командир артиллерийского взвода (противовоздушной обороны). С сентября 1915 — старший лейтенант. С мая 1916 — в штабе бригады, затем в штабе дивизии. С октября 1918 — капитан. За время войны награждён Железными крестами обеих степеней и ещё двумя орденами.
Продолжил службу в рейхсвере. К началу Второй мировой войны — начальник штаба 24-го армейского корпуса, полковник.
В мае-июне 1940 года участвовал во Французской кампании. Награждён планками к Железным крестам обеих степеней (повторное награждение). С марта 1941 — генерал-майор.
С 15 апреля 1941 — командир 97-й лёгкой дивизии.
С 22 июня 1941 года — участвовал в боевых действиях на восточном фронте. Бои на Украине. В декабре 1941 — награждён Рыцарским Крестом. С 27 декабря 1941 — командующий 30-м армейским корпусом.
С 15 января 1942 — генерал-лейтенант, с 1 июня 1942 — генерал артиллерии. Бои в Крыму (Керчь, Севастополь). В сентябре 1942 — награждён Золотым немецким крестом. Осенью 1942 — корпус в боях под Ленинградом.
23 декабря 1942 — 3 февраля 1943 — командующий оперативной группой «Фреттер-Пико».
В 1943 году — 30-й корпус в боях на Дону, затем на Украине.
В январе 1944 — Фреттер-Пико награждён Дубовыми листьями к Рыцарскому кресту. С 18 июля 1944 года — командующий 6-й армией. С 23 декабря 1944 — в командном резерве.
С 30 марта 1945 года — командующий 9-м военным округом (на западе Германии). 22 апреля 1945 — взят в американский плен.