Родился в Нойруппине (Бранденбург) в семье архидиакона Лютеранской церкви. После кончины отца переехал в Берлин (1795), где учился архитектуре под руководством братьев Гилли в только что основанной ими Академии архитектуры (с 1798 по 1800), одновременно с этим работая художником на фарфоровой фабрике. С 1803 по 1805 посетил Италию и Францию, позже, в 1826 побывал в Англии.
Изначально Шинкель занимался живописью: писал пейзажи, исторические сцены, создал немало ландшафтных диорам и панорам. В 1811 стал первым немецким литографом: листы Вечер и Утро. Под влиянием Каспара Фридриха принципы классицизма со временем все активнее сочетались в его станковых работах с романтическими веяниями; историко-античная тема перемежалась национально-средневековыми мотивами. Среди типических картин Шинкеля — «Собор над городом» (1813, Баварские государственные собрания, Мюнхен), «Взгляд на Грецию цветущей поры» (1825, Национальный музей, Берлин). Внес яркий вклад в сценографию немецкого романтизма, создавая в 1815—1832 эскизы задников для спектаклей берлинских королевских театров (гуаши к постановке «Волшебной флейты» В. А. Моцарта, 1815, Графическое собрание Государственных музеев, Берлин; и др.). Оформлял торжественные церемонии (юбилейный Дюреровский праздник в Певческой академии, 1828; придворный «Праздник Белой Розы» в Потсдаме, 1829).
Деятельно занялся зодчеством с той поры, как его в 1810 году по предложению Вильгельма фон Гумбольдта назначили асессором Прусской строительной депутации. Последовательно продвигаясь по служебной лестнице, Шинкель сосредоточил в своих руках контроль над важнейшими строительными работами в королевстве. Реформировал поздний, ампирный классицизм, археологически уточнив его античные формы, а с другой стороны — придав им еще более свободную, гибкую вариативность. К числу наиболее значительных его сооружений, выполненных в «греческом стиле», относятся:
Изначально испытывая острый интерес и к готике, под воздействием своих английских впечатлений начал строить в неоготическом вкусе:
Под руководством Шинкеля (по планам 1817 и 1833) была значительно модернизирована планировка Берлина (устройство новых улиц и бульваров в центре города; расширение его общей территории за счет присоединения ряда прилегающих районов). Шинкель внес большой вклад в развитие местной художественной промышленности, создавая эскизы мебели и светильников, стимулируя производство декоративного литья и керамики, а также витражей. Активно занимаясь реставрационными работами (в том числе надзором за достройкой Кёльнского собора), поставил дело охраны архитектурных памятников на широкую государственную основу: по его инициативе (с 1815) соответствующие службы были учреждены по всей Пруссии. Среди собственных произведений Шинкеля особое место занимают некоторые замыслы 1830-х годов (проекты магазина и библиотеки), а также здание Строительной академии (1831—1835; не сохранилось), где он отказался от каких бы то ни было исторических стилизаций, создав новаторские образцы протофункционализма.
Карл Фридрих Шинкель оказал огромное влияние на развитие архитектуры в России в XIX веке. Николай I заказал ему проект дворца в крымской Ореанде. Проект поражал своим великолепием: на одной из скал Шинкель предполагал возвести величественное здание, внешне напоминающие дворцы древней Эллады. Внутренние помещения должны были быть отделаны в стиле помпейских вилл. Богатейшая роспись стен, скульптура из различных видов мрамора в атриуме и галереях, фонтаны, тропическая зелень двориков по замыслу зодчего должны были подчеркивать необычность и роскошь императорской резиденции. Однако проект оказался слишком дорогим и был отклонен.
Оставил свой след великий архитектор и в Санкт-Петербурге. Решетки Аничкового моста в городе на Неве являются копией перил Дворцового моста в Берлине, построенного Шинкелем в 1824 году.
В 1806 году для безопасности плавания на горе Швальбенберг (ныне — гора Прохладная) у города-порта Пиллау (ныне Балтийск) по проекту Шинкеля был установлен специальный знак, служивший более века навигационным ориентиром. Силуэт из красного камня в виде раскрытой книги был виден далеко в море. Автором проекта маяка в Пиллау, построенного в 1816 году, некоторые также считают Шинкеля.
Шинкель окончательно оформил предложенный королём Фридрихом Вильгельмом III вариант военной награды за храбрость — Железного креста, которым были награждены, в частности, члены немецко-русского легиона, принимавшего участие в Освободительной войне в Германии
Умер Шинкель в Берлине, в 1841 году.