Бавье происходил из семьи влиятельного банкира, его отец также активно занимался политикой. Образование он получил в Штеттенском институте в Ремштале, Политехническом университете в Карлсруэ и Университете Штутгарта. В 1850 году женился на Барбаре фон Салис-Сюис и имел пятерых детей. С 1853 года избирается сначала в Большой совет кантона Граубюнден, затем в Национальный совет Швейцарии (1863).
После отставки в январе 1883 года назначен послом Швейцарии в Италии. На этом посту он пробыл до 1895 года.