Участник Первой мировой войны, после её окончания вступил в «Общество Туле». Занимался журналистикой. Одно время был редактором «Фёлькишер Беобахтер». В 1918 году создал Политический рабочий союз. 5 января 1919 года в пивной «Штернекерброй» объединил свой Союз с Комитетом независимых рабочих Антона Дрекслера. Новая партия получила название Немецкая рабочая партия (нем. Deutsche Arbeiterparrei), и Харрер был выбран её председателем.
Через некоторое время случается и первый конфликт с Гитлером. Когда Гитлер решил провести широкомасштабный (для того уровня партии) митинг, Харрер выступает против. Также Харрер выступал и против пропагандируемого Гитлером антисемитизма, считая что это может оттолкнуть рабочих от движения. Перед митингом 24 февраля 1920 года, когда НРП была переименована в НСДАП, покинул свой пост председателя, на котором его и заменил Дрекслер.