Член КПСС с 1945 (по другим источникам с 1946). Окончил Харьковский университет (1941), Военно-воздушную инженерную академию им. Н. Е. Жуковского (1945). Участник Великой Отечественной войны. С 1953 работал в Институте прикладной математики АН СССР.
С 1951 являлся учеником М. В. Келдыша. С 1956 г. руководил отделом. К. И. Бабенко внёс значительный вклад в ряд областей математики и механики. Он являлся математиком-аналитиком и прикладником-вычислителем. Его научное творчество отличалось широтой взглядов: от абстрактных теорем теории функций и функционального анализа до конкретных прикладных задач механики. Многие из его результатов значительно опередили свое время и сейчас переосмысливаются на новом уровне.
Важнейшей стороной научной деятельности К. И. Бабенко было численное решение конкретных прикладных задач, определяемых запросами физики и техники. Значителен его вклад в зарождение и развитие современной вычислительной математики и доказательных вычислений.
К. И. Бабенко всегда был в гуще общественной жизни. В 1955 году подписал «Письмо трёхсот». Он был членом редколлегий ряда ведущих российских и иностранных журналов. В последние годы жизни активно занимался разработкой концепции многопроцессорной суперЭВМ, ориентированной на решение задач механики сплошной среды. Большое внимание он уделял преподаванию на мехмате МГУ. Среди его учеников 8 докторов наук.
Похоронен на Кунцевском кладбище Москвы
Научная конференция «Теоретические основы и конструирование численных алгоритмов решения задач математической физики» (сейчас с добавкой «… в применении к многопроцессорным системам»), проводимая в 2008 году XVII раз, носит имя К. И. Бабенко.