Сын главноуправляющего путями сообщения и члена Государственного совета Российской империи графа Петра Андреевича Клейнмихеля от брака со статс-дамой Клеопатрой Петровной урождённой Ильинской (по первому браку Хорват, кавалер-дама ордена св. Екатерины), родился 17 мая 1839 года. Его братья: Николай (полковник), Александр, Константин (сенатор, тайный советник), Михаил.
Образование получил в Пажеском корпусе, из которого выпущен 6 июня 1857 года прапорщиком в лейб-гвардии Преображенский полк.
В 1863 году участвовал в усмирении Польского мятежа и, между прочим, был в делах 10 и 12 августа у местечка Сейно и фольварка Славанты и 29 октября у местечка Сереи, где были разбиты остатки шайки Острога. За отличие был награждён орденом св. Станислава 3-й степени с мечами и бантом.
17 декабря 1863 года Клейнмихель был назначен полковым адъютантом, а 22 марта 1864 года уже в чине поручика, получил назначение адъютантом к великому князю Николаю Николаевичу Старшему.
В июле 1874 года Клейнмихель был произведён в полковники. 17 апреля 1876 года Клейнмихель был назначен командиром лейб-гвардии 4-го стрелкового Императорской фамилии батальона, и 6 декабря того же года пожалован званием флигель-адъютанта.
С батальоном Клейнмихель принимал участие в кампании 1877—1878 годов против турок и неоднократно отличался.
Так 12 октября 1877 года, в сражении под Горным Дубняком, он, лично предводительствуя стрелками, взял большие редуты, за что 10 февраля 1878 года был награждён золотой саблей с надписью «За храбрость». Вслед затем, 11 ноября, Клейнмихель лично несколько раз брал приступом траншеи и выбил неприятеля с занятой им позиции; за это дело он был 12 апреля 1878 года произведён в генерал-майоры с зачислением в Свиту Его Величества, и кроме того, 30 марта 1879 года награждён орденом св. Георгия 4-й степени
19 декабря 1877 года, под Ташкисеном, Клейнмихель содействовал, удачным и своевременным обходом, взятию трёх турецких редутов правого фланга; за отличие награждён орденом св. Владимира 3-й степени с мечами. 21 декабря он под Враждебно атаковал ключ турецкой позиции, мост через реку Искер и овладел им вместе с остальными батальонами гвардейской стрелковой бригады. Наконец Клейнмихель с 3 по 5 января 1878 года участвовал в трёхдневном бою под Филиппополем.
10 апреля 1879 года Клейнмихель был назначен командиром лейб-гвардии Семёновского полка.
Скончался 27 января 1882 года в Санкт-Петербурге. Тело его погребено в полковой церкви лейб-гвардии Семёновского полка.
Клейнмихель был женат на Екатерине Петровне, урождённой княжне Мещерской (1843—1925, Париж), их сын Николай (1877—1918) служил в Кавалергардском полку, в 1905—1917 являлся Богодуховским уездным (Харьковской губернии) предводителем дворянства. Расстрелян большевиками.