Бернгард родился в семье адвоката Пауля Франца Константина Гржимека. В 1928 году начал изучать ветеринарную медицину, сперва в Лейпциге, потом в Берлине. В 1933 году получил диплом доктора ветеринарной медицины. В 1930 году, будучи студентом, он женился на Хильдегард Прюфер, от которой имел двух сыновей, Рохуса и Михаэля (1934—1959), и приёмного сына Томаса.
В 1933—1938 годах Гржимек работал экспертом сначала в министерстве экономики Пруссии, потом в Reichsn?hrstand («Имперское земельное сословие» — официальная организация крестьянства в фашистской Германии). С 1938 года из-за роспуска всех организаций в Германии, Гржимек стал работать чиновником в министерстве питания и сельского хозяйства, где занимался эпидемиологией домашнего скота и птицы. Кроме своей работы он занимался этологическими исследованиями, особенно человекообразных и волков.
Во время войны он служил ветеринаром в вермахте, в свободное время занимаясь наблюдениями над животными — например, изучал проблемы цветного зрения и ориентировки военных лошадей, также занимался слонами. После обыска, проведённого гестапо в берлинской квартире Гржимека (по подозрению в оказании помощи скрывавшимся евреям), он улетел из Берлина и добрался до Франкфурта-на-Майне, захваченного американскими войсками.
После войны Гржимек стал директором Франкфуртского зоопарка, который лежал в руинах; ему удалось превратить его в один из крупнейших зоопарков Германии. Кроме того, в течение сорока лет Гржимек являлся главой Франкфуртского зоологического общества, которое занимается программами по охране окружающей среды в Германии и за рубежом; особенно известно продолжающейся по сей день работой в заповеднике Серенгети в Танзании.
Наибольшую известность Гржимеку принесла его работа по сохранению Серенгети. В течение нескольких лет вместе со своим сыном Михаэлем он изучал его животный мир, в основном с помощью подсчета миграций диких животных с самолёта. Во время одного из таких полётов его сын разбился при столкновении самолета с грифом. Об этой работе Гржимек снял документальный фильм и написал книгу «Серенгети не должен умереть!»; они имели большой успех и послужили одной из причин создания национального парка и заповедника Серенгети.
Его документальные фильмы были отмечены берлинским «Золотым медведем» и Оскаром.
В 1973 году Гржимек развёлся со своей первой женой, а в 1978 году женился на Эрике, вдове Михаэля.
Гржимек скончался в 1987 году во Франкфурте, заснув на цирковом представлении. Урна с его прахом была позже перевезена в Танзанию и захоронена рядом с могилой его сына, над кратером Нгоронгоро, который они изучали долгие годы.