Родился в семье немецкого филолога Вильгельма Гримма. Учился в гимназии г. Франкфурт-на-Одере, его учителем истории был известный историк Леопольд фон Ранке. С 1841 г. жил в Берлине, посещал салон Беттины фон Арним (супруги Ахима фон Арима и одной из основных корреспонденток И. В. Гёте), а в 1859 г. женился на её дочери Гизеле. В 1847 г. поступил в Лейпцигский университет, где изучал право и филологию; в 1868 г. защитил диссертацию и получил степень доктора филологии. В 1873 г. занял кафедру новой истории искусства в Берлинском университете . В 1885 г. стал соучредителем «Общества Гёте» — ныне авторитетного научно-исследовательского института, занятого проблемами истории и теории немецкой литературы и, специально, изучением и популяризацией творчества И. В. Гёте. Инициировал издание и стал редактором первого полного собрания сочинений И. В. Гёте (т. н. «Веймарское издание»). Подготовил и издал переписку своего отца и дяди — братьев Вильгельма и Якоба Гримм, а также инициировал академическое издание их научных работ (т. н. «Кассельское издание»). Автор ряда крупных работ по истории немецкого искусства и литературы. Создал несколько самостоятельных художественных произведений. Исповедовал буддизм. Погребён рядом со своим отцом на мемориальном кладбище Берлина.