Герман Казак родился в семье потсдамского врача и был единственным ребёнком. После окончания гуманитарной гимназии Viktoria он в 1914 начинает учёбу по направлениям экономика и история литературы в Берлине, которую он успешно заканчивает в Мюнхене в 1920 году.
В 1915 в одном из журналов появляется его первое стихотворение Мать. Первая книга Der Mensch. Verse выходит в 1918 году.
В 1920 году Казак женится на Марии Фелленберг. В том же году он начинает работать в потсдамском издательстве Gustav-Kiepenheuer как редактор. В этом качестве он помимо прочего издаёт собрание сочинений Фридриха Гёльдерлина. В 1925 году он переходит на радиостудию Funk-Stunde Berlin, первую радиовещательную компанию Германии, где является ответственным редактором передач современной поэзии. Премьера его первой пьесы Сёстры состоялась в следующем году. Казак становится директором издательства S. Fischer Verlag. В 1927 у него рождается сын, будущий славист Вольфганг Казак. В последующие годы Герман Казак издаёт сборники стихотворений и выпускает более сотни радиопередач, в числе которых биографии писателей и многочисленные радиоспектакли (лишь немногие из этих передач сохранились до наших дней). 28 марта 1933 года Казаку запрещается любая работа, связанная с радиовещанием. Вплоть до 1941 года писатель лишён работы, а затем снова становится редактором в издательстве S. Fischer (позже Suhrkamp). На время тюремного заключения главы издательства Петера Зуркампа в 1944 году Казак выполняет его обязанности.
После войны Казак вначале работает на берлинском радио, а в 1949 году переезжает в Штутгарт. В 1947 году выходит его наиболее известный роман, Город за рекой, за который он в 1949 году получает премию Теодора Фонтане. Второй и последний роман Казака, Большая сеть выходит в 1952 году. С 1953 по 1963 писатель является президентом Немецкой академии языка и поэзии и ратует за публикацию произведений забытых современных авторов. В 1955 немецкий композитор Ханс Фогт пишет оперу Город за рекой, премьера которой проходит в Висбадене. К шестидесятилетнему юбилею писателя издательство Suhrkamp в качестве подарка издаёт собрание основных эссе и речей Казака. В 1960 году московский Литературный институт им. А.М. Горького награждает Казака памятной медалью им. Льва Толстого.
В 1963 году Герман Казак уходит с поста президента Немецкой Академии языка и поэзии по причине прогрессирующей слепоты. 10 января 1966 года Герман Казак скончался.