Отто Николаи родился в семье кёнигсбергского музыканта и после получения начального музыкального образования от отца был отправлен в 1827 для продолжения обучения в Берлин, где обучался до 1830 в Берлинской певческой академии у Карла Фридриха Цельтера и Бернгарда Клейна, а затем начал в ней работу, но в 1833 был направлен органистом в часовню прусского посольства в Риме, где стажировался у Джузеппе Баини и подпал под музыкальное влияние современных ему композиторов, а также Палестрины.
В июне 1837 Николаи переехал в Вену, где стал помощником Конрадина Крейцера, капельмейстера театра Кернтнертор, однако в следующем году возвратился в Рим, посвятив себя сочинению опер. В 1841 Николаи был приглашён на пост руководителя Придворной оперы в Вене, организовав для проведения симфонических концертов в 1842 из числа её работников Венский филармонический оркестр.
В 1844 после ухода Мендельсона Николаи был приглашён на пост капельмейстера Берлинского кафедрального собора, однако окончательно переехал в Берлин только в 1848.
В 1849 через два месяца после премьеры «Виндзорских проказниц» Николаи был назначен руководителем Берлинской оперы, а ещё через два дня избран членом Прусской королевской академии искусств, однако в тот же день скоропостижно скончался от инсульта.
В своём творчестве Николаи использовал достижения современной ему итальянской музыки, работая в основном в русле немецкой романтической традиции.