После окончания реального училища в Клагенфурте Й. Хакхофер поступает в венскую Высшую техническую школу, где обучается у Карла Кёнига и Виктора Лунца. После завершения образования работает в различных архитектурных мастерских, в том числе чертёжником у Отто Вагнера. В период между 1898 и 1906 годами Й. Хакхофер создаёт вместе с Фридрихом Оманом архитектурное бюро. Они совместно строят ряд мостов на реке Вена, а также Молочный павильон в венском Городском парке. Позднее архитектор работает самостоятельно, или с другими партнёрами. К его лучшим работам относится созданный в стиле модерн Высокий мост в Вене. В 1912 году на Международной архитектурной выставке в Лейпциге Й. Хакхофер был удостоен приза города Лейпцига. Был женат, имел двух сыновей. Скончался вследствие инсульта.