Выпускник Императорского училища правоведения 1865 года
Начал службу в министерстве юстиции. В 1868 году был товарищем прокурора Калужского окружного суда.
Перейдя в министерство внутренних дел, 28 апреля 1878 года был назначен Лифляндским вице-губернатором и оставался им вплоть до 15 марта 1890 года, когда был назначен Томским губернатором. За время работы в Риге дважды исполнял обязанности Лифляндского губернатора: с 1 декабря 1882 года по 18 января 1883 года и с 13 мая по 21 июня 1885 года.
Перейдя на работу в Томск, Тобизен столкнулся с желанием проектировщиков будущей Транссибирской магистрали проложить её в обход Томска. Осенью 1891 года он обратился к министру внутренних дел с просьбой предоставить государю объяснительную записку томичей, в которой они настаивали на варианте трассы магистрали через Томск. (см. также Строительство Транссибирской магистрали в обход Томска)
Также Тобизен принимал участие в комиссии по составлению сметы расходов по сооружению Великого Сибирского пути и связанных с этим вспомогательных предприятий (1893 год), равно как в комиссии по определению общих положений для земельного устройства крестьян на казенных землях в Сибири.
При Германе Тобизене в Томске появился ипподром, а во время эпидемии холеры губернатор приложил массу усилий, чтобы организовать полноценную медицинскую помощь, и в честь этого стал почетным гражданином Томска.
Тобизен разновременно призывался к обсуждению проблем поземельного устройства крестьян Алтайского горного округа на землях Кабинета Его Величества, упорядочения переселенческого движения и прочих. Был инициатором прекращения ссылки в Западную Сибирь и отмены телесных наказаний для женщин-бродяг.
В декабре 1895 года Тобизен представил в министерство внутренних дел ходатайство жителей поселка Александровский Томской губернии о переименовании в поселок Новониколаевский „в честь Его Императорского Величества, благополучно ныне царствующего Государя императора“ Николая II (ныне — Новосибирск).
Герман Тобизен умер в Смоленске 9 января 1917 года, будучи тайным советником, гофмейстером и сенатором первого общего собрания Сената. После его смерти журналисты писали, что в Харькове, где он также был губернатором, Православная церковь воспротивилась намерению общественности отслужить панихиду по почившему Тобизену. По официальной версии, это произошло по причине лютеранского исповедания усопшего сановника.
Почётный гражданин г. Харькова.