Сын архитектора Д. И. Гримма, брат историка Э. Д. Гримма (1870—1940).
В 1889 г. приват-доцент Дерптского университета.
Гримм с 1894 года стал читать римское право в Петербургском университете, где в 1899 г. становится экстраординарным, а в 1901 году ординарным профессором. В 1906 году Гримм был избран деканом юридического факультета, а в 1910 году ректором Петербургского университета, каковую должность, вследствие известных событий в жизни университета, оставил в 1911 г. (на этом посту его заместил брат проф. Э. Д. Гримм). 3 августа 1913 года Гримм был отстранен Министерством народного просвещения также от должности профессора под предлогом перевода в Харьковский университет (куда он ехать отказался).
В 1891—1905 годы Гримм был преподавателем и профессором Училища правоведения, а в 1896—1906 годы читал энциклопедию права в Военно-юридической академии. С 1906 г. состоял профессором Высших женских курсов.
С 1907 года — член Государственного совета по выборам от Академии Наук и российских университетов.
После Февральской революции 16 марта 1917 года назначен комиссаром Временного правительства над Государственной Канцелярией и Канцелярией по принятию прошений.
В сентябре 1919 арестовывался, но через несколько дней освобождён под поручительство.
Эмигрировал из советской России. С осени 1920 года проживал в Париже.
В 1922 году Гримм переехал в Чехословакию, где был профессором гражданского права (1922—1927) и деканом (1924—1927) Русского юридического факультета в Праге.
С 12 августа 1927 года профессор римского права Тартуского университета, в котором работал до выхода на пенсию в 1934 году.
Был женат на Вере Ивановне. Дети: Иван, Константин. Невестка - Карамзина, Мария Владимировна