Вайнхебер вырос в детском доме. До того, как стать писателем, он был рабочим, в период с 1911 по 1918 работал на почте. В 1919 году начал писать для газеты The Musket. В 1918 перешёл из католицизма в протестантство.
В 1920 году вышел первый сборник лирических стихов поэта «Der einsame Mensch» (The Solitary Man). Вайнхебер находился под влиянием творчества Райнера Марии Рильке, Антона Вильдганса и Карла Крауса. Дружил с коллегами по литературному цеху Мирко Елюшичем и Робертом Хольбаумом. С 1931 по 1933 год и с 1944 года Вайнхебер являлся членом Нацистской партии.
С момента публикации сборника стихов «Adel und Untergang» Вайнхебер становится одним из ведущих поэтов своего времени. Восхищение критиков вызвал сборник «Wien w?rtlich», который частично был написан на Венском диалекте. А сорок од, вошедших в Цикл «Zwischen G?ttern und D?monen» 1938 года, считаются его поэтическим шедевром.
В последние годы войны Вайнхебер пристрастился к алкоголю. В момент контрнаступления советских войск он впал в депрессию и покончил с собой, оставив однозначную предсмертную записку.