Родился в 1895 году в семье железнодорожного рабочего. Образование получил в смоленском ремесленном училище (1913), после чего работал слесарем, электромонтёром, надсмотрщиком телеграфа в телеграфной конторе.
В мае 1915 года призван в армию, монтёр телеграфной роты в крепости Свеаборг.
С августа по декабрь 1917 года — комиссар телеграфа ст. Белоостров Финляндской ж/д, телефонист на Петроградской телефонной станции, комиссар телеграфа Наркомата путей сообщения РСФСР, а с мая по июль 1918 года — нач. связи штаба Урало-Оренбургского фронта.
Член РКП(б) с сентября 1918 года.
В июле 1918 года переведён на работу в органы ВЧК: был комиссаром-следователем прифронтовой ЧК 2-й армии, следователем, зам. начальника и начальником следственных частей в Самарской, Казанской, Уфимской, Омской и других ЧК, зам. начальника особого отдела и заведующим следственной частью ОО 5-й армии. С сентября 1921 года возглавлял следственно-оперативные части в Иркутской, Новониколаевской, Башкирской, гомельской ЧК (ГПУ).
С 5 июля 1923 года — начальник Гомельского губотдела ГПУ, с 22 ноября 1924 года — начальник Ставропольского окружного отдела ГПУ, с 17 марта 1928 года — начальник Чеченско-Грозненского объединенного отдела ГПУ, с 10 ноября 1929 года — начальник Донского окружного отдела ГПУ, с 1 октября 1930 года — начальник Шахтинского и с 31 марта 1931 года — Пятигорского оперативного сектора ГПУ.
С 8 сентября 1932 года — 2-й зам. полпреда ОГПУ (с июля 1934 г. — зам. начальника Управления НКВД) по Восточно-Сибирскому краю. С 17 декабря 1934 года — начальник УНКВД Красноярского края.
С 17 октября 1936 года — зам. начальника УНКВД Азово-Черноморского края, с 29 июня по 20 октября 1937 года — нарком внутренних дел Крымской АССР.
В ноябре 1937 года переведён в центральный аппарат НКВД и назначен зам. директора государственного треста «Дальстрой». После ареста в Москве директора «Дальстроя» Э. П. Берзина c 19 декабря 1937 года старший майор госбезопасности К. А. Павлов становится директором треста (с 08.06.1938 г. — начальником ГУ СДС НКВД СССР) «Дальстрой». Одновременно с Павловым в «Дальстрой» прибыла группа кадровых чекистов из запаса НКВД СССР, заместивших единомышленников Берзина на руководящих должностях треста .
С вступлением Павлова в должность руководителя «Дальстроя» в тресте заканчивается период относительного «берзинского либерализма» и начинается жестокая эксплуатация заключённых, получившая название «гаранинщина» — по имени начальника УСВИТЛа того времени — полковника С. Н. Гаранина.
Однако:
В то же время, К. А. Павлова отличала и высокая требовательность к себе самому:
11 октября 1939 года К. А. Павлов покидает пост начальника «Дальстроя».
21 мая 1940 года Павлов назначен зам. начальника Управления горно-металлургической промышленности ГУЛАГ НКВД СССР.
С 19 августа 1940 года по 26 февраля 1941 года — начальник Управления по строительству заводов и горно-рудных предприятий черной металлургии ГУЛАГа. В тот же период, с августа 1940 г. по февраль 1941 г. — зам. начальника ГУЛАГ НКВД СССР.
С июля 1941 года — зам. начальника, а с 23 августа 1941 года — начальник созданного в системе НКВД СССР Главного управления оборонительных работ (ГУОБР, Главоборонстрой), впоследствии (15.10.1941) переданного в состав Наркомата обороны СССР.
23 мая 1942 года Павлов вернулся в систему НКВД и стал начальником Главного управления строительства шоссейных дорог (ГУШОСДОР) НКВД СССР.
9 июля 1946 года К. А. Павлов был освобожден от должности, и в ноябре (по Н. Петрову — с 1 сентября) 1946 года уволен в отставку по болезни и отправлен на пенсию.
Однако, полтора года спустя, 11 марта 1948 года министр внутренних дел СССР С. Н. Круглов назначил К. А. Павлова начальником строительства Волго-Донского канала, опять-таки возводившегося руками заключённых, но уже 18 марта 1949 года Павлова вторично отправляют на пенсию.
18 мая 1957 года, вскоре после XX съезда КПСС, начавшейся кампании по разоблачению культа личности и за полторы недели до ликвидации «Дальстроя», К. А. Павлов застрелился. Похоронен на Ваганьковском кладбище в Москве.