Отец — известный российский юрист и историк Дмитрий Германович Тальберг, мать — принадлежавшая к старинному дворянскому роду Виктория Тальберг (урожденная Лазо).
Учился в киевском Екатерининском реальном училище. В 1907 году с золотой медалью окончил Императорское училище правоведения, затем находился на государственной службе.
Тальберг был убеждённым монархистом, состоял членом Русского собрания и Русского окраинного общества.
После Февральского переворота 1917 года вступил в тайную организацию Маркова, ставившую целью освобождение царской семьи.
Был министром внутренних дел в правительстве гетмана Скоропадского на Украине в 1918 году.
В 1920 году эмигрировал в Германию. Принял активное участие в подготовке монархического съезда в Рейхенгалле, избран управляющим делами Высшего Монархического Совета.
Выступал с лекциями и докладами на религиозные, исторические и политические темы в Югославии, Германии, Австрии, публиковал статьи в патриотической периодике.
После Второй мировой войны — в США. С 1950 года проживал в Свято-Троицком монастыре в Джорданвилле, преподавал историю в духовной семинарии Свято-Троицкого монастыря.
Скончался на 81-м году жизни, похоронен на кладбище Свято-Троицкого монастыря.
Труды Тальберга переиздавались в России после 1991 года.