Родился в семье потомственных музыкантов. Дед, композитор Илья Виленский (1896—1975), создал в Киеве три музыкальных театра. Родители Константина, Михаил Виленский (усыновлён И. Виленским) и Елизавета Ростковская, были хореографами. Среди частых гостей семьи Виленских были пианисты Генрих Нейгауз и Владимир Горовиц.
К. Виленский окончил Киевскую консерваторию в 1974 г. и аспирантуру Консерватории в 1978 г. В 1983—1995 г. преподавал гармонию и композицию в Киевской консерватории. Руководил джаз-трио, в состав которого также входили киевляне Геннадий Литвин (контрабас, в 1990-х эмигрировал в Израиль) и Александр Блинов. Позднее организовал другой состав джаз-трио, где контрабасистом был Виктор Двоскин (сейчас живёт в Вашингтоне), а ударником Сергей Швирст (позднее стал монахом Киево-Печерской Лавры, умер в 1995). В нынешнем составе джаз-трио - контрабасист Томаш Купец(Польша)и ударник Сергей Виленский(сын). Выступает с симфоническими оркестрами в разных странах мастерски сочетая классику и джаз. Премировался на киевском джазовом фестивале «[Голосеево]»(1988),11-й Московский Межународный Джаз Фестиваль(Москва,1988),Фестиваль им.Бетховена(Фальстербо,Швеция,1998),Jazztopad - Фестиваль 3-х пианистов(Макович,Виленский,Можджер),Вроцлав,Польша,2004.
С 1995 г. живёт в г. Кельце (Польша), в 1996—2001 гг. — музыкальный директор драматического театра им. Стефана Жеромского в г. Кельце (Польша). В 2002 г. получил гражданство Польши. .
Два сына К. Виленского — Сергей и Алексей живут в Киеве.
Старший сын — музыкант(Симф. Оркестр Нац. Филарм.)У младшего образование техническое.