Учился в Венской академии музыки как пианист и органист, затем в Венском университете у Гвидо Адлера и Роберта Лаха как музыковед. В дальнейшем преподавал в университете музыковедение (1932—1973). В 1946 г. сменил Роберта Хааса на посту хранителя музыкального раздела Австрийской национальной библиотеки.
Основной вклад Новак внёс в изучение и издание наследия Антона Брукнера, подготовив публикации его симфоний, гораздо более корректные по сравнению с изданиями Хааса в отношении различения версий и редакций. Не менее значителен вклад Новака в исследование Реквиема Моцарта: по рукописям он сумел тщательно отделить авторский текст Моцарта от завершающего дополнения Зюсмайра, — за эту работу Новак в 1985 г. был удостоен Большой Моцартовской медали. Кроме того, Новак написал ряд работ о произведения Генриха Изаака, Гайдна, Бетховена, об австрийской народной и средневековой музыке.