Воспитывался в Императорском военном сиротском доме (1-е военное павловское училище).
1819 — произведён в прапорщики учебного карабинерного полка,
1822 — переведён в лейб-гвардии Егерский полк. Прикомандировавшись затем к кавказским войскам, принимал участие в военных действиях против персиян (1827) и турок (1828), причём особенно отличился при взятии Карса и Ахалцыха и 1 января 1829 года был награждён орденом св. Георгия 4-й степени за № 4251.
Вернувшись к своему полку, он участвовал с ним в Польской кампании в 1831 года.
1838 — назначен командиром Эриванского полка и затем 17 лет оставался на Кавказе, где впоследствии командовал сначала кавказской резервной гренадерской бригадой, а потом 21-й пехотной дивизией.
Последним подвигом его было поражение турок на Чингильских высотах (17 июля 1854 года), причём он был ранен пулей в берцовую кость.
— таков текст Высочайшего указа от 5 августа 1854 года о награждении Карла Карловича орденом Святого Георгия 3-го класса за № 481.
По излечении от раны Врангель был назначен начальником войск в восточной части Крыма, которая во время Крымской войны охранялась им от всяких покушений неприятельских отрядов.
После войны он командовал сначала 4-м, а потом 3-м пехотными корпусами; затем был командующим войсками Киевского военного округа, а в 1862 году назначен членом военного совета и инспектором войск.
25 марта 1869 года, по случаю 50-летнего юбилея служебной деятельности, Карл Карлович Врангель назначен был состоять при особе Его Императорского величества.
Барон скончался 5(7?) сентября 1872 года.