Константин родился в Москве, старшим сыном в семье российского деятеля искусств и художника-любителя, Егора Ивановича Маковского. Егор Маковский был основателем «Натурного класса», художественного училища, которое потом стало известно как Московское училище живописи, ваяния и зодчества. Среди друзей семьи были Карл Брюллов и Василий Тропинин. Все дети Егора Ивановича стали выдающимися художниками (см. Маковский). Позднее Константин писал: «Тем, что из меня вышло, я считаю обязанным себя не академии, не профессорам, а исключительно моему отцу».
В 1851 году Константин поступил в Московское училище живописи, ваяния и зодчества, где он стал первым студентом, легко получая все доступные награды. Его учителями были М. И. Скотти, А. Н. Мокрицкий, С. К. Зарянко, все — ученики Карла Брюллова. Склонность Маковского к романтизму и декоративным эффектам можно объяснить влиянием Брюллова.
В 1858 году Маковский поступил в Императорскую Академию художеств в Санкт-Петербурге. С 1860 года он участвовал в выставках Академии с такими картинами как «Исцеление слепых» (1860) и «Агенты Дмитрия Самозванца убивают Бориса Годунова» (1862). В 1863 году Маковский, вместе с 13 другими студентами, выбранными для участия в конкурсе на Большую золотую медаль Академии, отказался писать картину на тему Скандинавской мифологии и покинул Академию, не получив диплом.
Маковский присоединился к артели художников, возглавляемой Иваном Крамским, создавая картины повседневной жизни (Вдова (1865), Продавец сельди (1867) и т. д.). В 1870 году он стал одним из основателей «Товарищества передвижных художественных выставок» и продолжал работать над картинами, посвящёнными повседневной жизни. Он выставлял свои работы как на выставках Академии, так и на передвижных художественных выставках.
Значительные изменения в его стиле произошли после путешествия в Египет и Сербию в середине 1870-х. Его интересы сместились от социальных и психологических проблем к художественным проблемам цвета и формы.
В 1880-х он стал модным автором портретов и исторических картин. На Всемирной выставке 1889 г. в Париже он получил Большую золотую медаль за картины «Смерть Ивана Грозного», «Суд Париса» и «Демон и Тамара». Он был одним из самых высоко ценимых и высокооплачиваемых российских художников того времени. Многие критики-демократы рассматривали его как предателя идеалов Передвижников, создающего, как Генрих Семирадский, поразительные но поверхностные работы, тогда как другие видели в нём предвестника Русского импрессионизма.
В 1915 году он участвует в учреждении Общества возрождения художественной Руси, наряду со многими другими художниками своего времени.
Маковский стал жертвой несчастного случая (в его экипаж врезался трамвай) и скончался в 1915 году в Санкт-Петербурге. Похоронен на Никольском кладбище Александро-Невской лавры.
Сын Маковского, Сергей Константинович — известный деятель русской культуры Серебряного века (впоследствии один из первых предложил это название), художественный критик, издатель журнала «Аполлон».
1909 — 17.09.1915 года — 1-я линия, 56.
Агенты Дмитрия Самозванца убивают Фёдора Годунова. 1862.
Портрет императрицы Марии Фёдоровны, жены Александра III.
Дети, бегущие от грозы 1872.
Портрет Марии Михайловны Волконской.
Боярышня.
Семейный портрет Волковых.
Свадебный пир в боярской семье XVII столетия. 1883.
Минин на площади Нижнего Новгорода, призывающий народ к пожертвованиям. 1896.
Портрет поручика Лейб-Гвардейского Гусарского полка, графа Г.А. Бобринского, 1879 (Музей Гвардии, Санкт-Петербург)
Портрет графа Николая Николаевича Муравьева-Амурского, генерал-губернатора Восточной Сибири, 1863, Иркутский областной художественный музей
Головка (портрет Ю.П.Маковской). 1890-е
Гадание