Сын архивариуса. Закончил с золотой медалью лютеранскую гимназию при церкви Св. Екатерины в Санкт-Петербурге.
В 1906-1911 гг. учился на Восточном факультете Санкт-Петербургского университета. Его наставниками были такие выдающиеся ученые, как Ф.И.Щербатской, крупнейший русский специалист по буддизму и индийской философии, С.Ф.Ольденбург, знаток культуры Индии, Александр Сталь-фон-Гольштейн (1877-1936), Алексей Иванович Иванов (1878-1937), Андрей Дмитриевич Руднев (1878-1958) и другие. Розенберг изучал санскрит, пали, тибетский, монгольский, китайский и японский языки. Из европейских языков, помимо родных русского и немецкого, владел английским, французским и итальянским. В 1909 г. стажировался в Боннском университете у Германа Якоби (1850-1937), крупнейшего санскритолога и индолога того времени.
В 1911 г., уже в качестве сотрудника кафедры санскритской словесности Восточного факультета Петербургского университета, проходил стажировку в Берлине в Семинарии восточных языков профессора Рудольфа Ланге (1850-1933). После возвращения в Петербург переходит на кафедру японской словесности и литературы.
В 1912-1916 гг. в аспирантуре при Токийском университете изучал буддийскую литературу и традиции. В это время он знакомиться с видными японскими учеными-буддологами того времени (Огихара Унрай, Такакусу Дзюнъитиро и др.).
Летом 1916 г. вернулся в Россию и продолжил работу в Петербургском университете. С 1 января 1917 г. приват-доцент Восточного факультета.
6 октября 1918 г. защитил магистерскую диссертацию по своему труду «Введение в изучение буддизма по японским и китайским источникам» и стал первым в Петербургском (Петроградском) университете доктором японского языка и литературы. В том же году начинает работать в Азиатском музее и Русском музее. В 1919 г. принял участие в организации первой буддийской выставки Азиатского музея. Член Русского Географического общества.
20 октября 1919 г. Павловск, где жил Розенберг, был занят частями Северо-Западной армии генерала Юденича. После этого никто из сотрудников университета и музеев Розенберга не видел. Существует несколько версий места и времени смерти Розенберга:
За короткий период своей работы в науке О.О.Розенберг успел создать две фундаментальные работы, объединенных общим названием «Введение в изучение буддизма по японским и китайским источникам».
Первая часть, «Свод лексикографического материала», была напечатанна в Токио в 1916 г. и представляет собой словарь-указатель санскритских, китайских и японских буддийских терминов. Но из-за малого тиража (Розенберг издавал его за собственный счет) и международной обстановки этот словарь оказался недоступен многим специалистам и не получил должной оценки.
Вторая часть, его магистерская диссертация «Проблемы буддийской философии», была опубликована как самостоятельная книга издательством Факультета Восточных языков Петроградского университета осенью 1918 г. Собственно, эта книга и сделала его знаменитым. Она ознаменовала собой переворот в буддологии, так как в ней было показано:
Перу Розенберга принадлежит также ряд статей, опубликованных в русских, немецких и японских научных журналах.
Исходя из идеи В.П. Васильева (1818-1900), Розенберг разработал удобный в использовании графический метод систематизации китайских и японских иероглифов. Эту систему он описал в статьях на японском и английском языках, где привел систематизацию 8000 наиболее употребляемых иероглифов. Эта система и сегодня широко применяется при составлении китайских и японских словарей под названием «русской графической системы».
Опубликованные работы: