Сын архитектора М. Д. Быковского; мать, Эмилия Львовна (сестра архитектора Константина Минелли), умерла вскоре после родов. Сначала учился у отца. В 1859—1865 обучался в Императорской Академии художеств по классу архитектуры Н. Л. Бенуа. В 1866 году получил звание классного художника архитектуры 2-й степени. С 1867 года — архитектор Техническо-строительного комитета Министерства внутренних дел. В 1868 году вернулся в Москву, работал помощником М. Д. Быковского на постройке церкви Знамения в Ховрине (Фестивальная улица, 27). В 1870—1881 годах и позднее, в 1899—1906 годах, преподавал в Московском училище живописи, ваяния и зодчества, в Строгановском училище технического рисования, служил преподавателем в Училище изящных искусств А. О. Гунста. Параллельно преподавательской работе в 1874—1877 годах служил участковым архитектором. В 1881 году был удостоен звания академика архитектуры. В том же году стал архитектором страхового общества «Россия».
С 1883 по 1897 годы К. М. Быковский являлся главным архитектором Московского университета. В 1886 году предложил проект постройки университетского клинического городка на Девичьем Поле (Большая Царицынская, современная Большая Пироговская улица). По плану Быковского, левая (южная) сторона отводилась под клиники и приюты, финансируемые частными жертвователями, а правая (северная) — под университетские клиники, финансируемые (в основном) государством Быковский лично спроектировал застройку северной стороны Царицынской улицы в стиле сдержанной поздней эклектики, основанной на классицизме. Через школу Быковского на этом проекте прошли такие архитекторы, как И. П. Машков, И. П. Залесский. По завершении первой очереди Девичьего поля Быковским построены корпуса университета на Большой Никитской: университетская библиотека (1904—1905), Зоологический музей (1892—1902), бывшие Биологический корпус, Физический и Физиологический институты, а также старое здание Центрального банка на Неглинной улице (1892—1893). В 1900 году получил звание профессора архитектуры.
В целом постройки К. М. Быковского (в отличие от построек Быковского-отца) сохранились и продолжают использоваться по первоначальному назначению. Разрушена церковь св. Пимена в современном Старопименовском переулке, в которой Быковский заново выстроил основной однокупольный объём на древней основе (эта постройка очень близка к купольным храмам М. Д. Быковского). Быковский сам пропагандировал реставрацию старых памятников, и лично реставрировал их, в том числе Успенский собор Московского кремля (1890-е гг.).
В 1865 году молодой К. М. Быковский вошёл в число пятнадцати членов-основателей Московского архитектурного общества (МАО), председателем которого стал его отец, а в 1894—1903 годах сам возглавлял общество. Во время работы в МАО участвовал в работе трёх съездов русских зодчих, являлся председателем II съезда в 1895 году. С 1882 года являлся членом, а с 1890 года — товарищем (заместителем) председателя Комиссии по сохранению древних памятников в Московском археологическом обществе. В 1893—1902 годах являлся председателем Общества любителей художеств. На этой должности организовал в 1894 году I Всероссийский съезд русских художников и любителей художеств. Сестра архитектора, Лидия Николаевна, была замужем за другим известным московским архитектором-эклектиком, Д. Н. Чичаговым. Некоторое время помощником архитектора работал сын Д. Н. Чичагова Алексей Дмитриевич. Помощником Быковского работал также архитектор М. Г. Пиотрович.
Центральный Банк
Университетские клиники
Университетские клиники
Храм св. Пимена