Учился изобразительному искусству в Дрездене и Берлине. В 1912—1913 годах был в Париже, познакомился с новейшим искусством, открыл для себя графику Домье и Тулуз-Лотрека. В 1914 году записался в германскую армию добровольцем, был госпитализирован в 1915 году и демобилизован, освобождён от военной службы в 1917 году. По склонностям и привычкам был денди, авантюристом, прожигателем жизни. В 1916 году изменил имя и фамилию из романтической любви к Америке, которую знал по романам Фенимора Купера (его друг и соавтор Хельмут Херцфельд взял себе псевдоним Джон Хартфилд, под которым позже и прославился как мастер сатирического фотомонтажа). В 1918 году Грос стал одним из основателей берлинской группы дадаистов. Участвовал в восстании спартакистов 1919 года, был арестован, но сумел избежать тюрьмы, воспользовавшись фальшивыми документами. В 1919 году же вступил в Коммунистическую партию Германии, в 1922 вышел из ее рядов после посещения Москвы и знакомства там с Лениным и Троцким. Рисовал для сатирического журнала «Симплициссимус», иллюстрировал роман Альфонса Доде «Приключения Тартарена из Тараскона» (1921), выступал как сценограф. В 1921 году был обвинён в оскорблении германской армии, на него наложили штраф, серия его сатирических рисунков «С нами Бог» была по приговору суда уничтожена. В 1924—1925 и 1927 годах снова жил в Париже. В 1932 году переехал в США, в 1933—1955 годах преподавал в Нью-Йорке, в 1938 году получил американское гражданство. В нацистской Германии его творчество было причислено к «дегенеративному искусству». Грос опубликовал автобиографическую книгу «Маленькое „да“ и большое „нет“» (1946). В 1950-х годах он открыл у себя на дому частную художественную школу, в 1954 году был избран в Американскую академию искусства и литературы. В 1959 году художник вернулся в Берлин. Был найден мёртвым на пороге дома после бурной ночи.
Рисунки и карикатуры Гроса 1920-х годов, сближающие его творчество с экспрессионизмом, метко воссоздают обстановку в Германии накануне прихода Гитлера к власти, её нарастающий абсурд и безысходность. Гросу принадлежит серия рисунков «Каин, или Гитлер в аду» (1944). Значимое место в его графике занимает эротическая тема, которую он трактует в обычном для себя резко-гротескном духе.