Константин Фёдорович Ольшанский родился в 1915 году в семье служащего. После окончания десятилетки работал автослесарем.
В ряды Красной Армии был призван в 1936 году, службу проходил в Черноморском флоте. После окончания школы учебного отряда остался там преподавателем, а в 1941 году прошёл курсы младших лейтенантов.
На фронтах Великой Отечественной войны участвовал с 1941 года.
Участвовал в обороне Севастополя, потом был направлен для подготовки специалистов для ВМФ в электромеханическую школу, а в 1943 году был назначен командиром роты автоматчиков 384-го отдельного батальона морской пехоты Черноморского флота, в составе которой участвовал в обороне Ейска, освобождении Таганрога и Мариуполя.
В марте 1944 года для оказания помощи наступающим войскам в освобождении города Николаева был назначен командиром десантного отряда, численностью 68 человек, состоявшего из 55 морских пехотинцев, 10 сапёров, 2 связистов и проводника. В ночь на 26 марта 1944 года отряд высадился в тыл противника в порту Николаева. Задачей десанта были захват порта, разминирование подготовленных немцами к подрыву основных портовых сооружений (для чего в состав десанта и были включены сапёры) и удержание порта до подхода наступающих советских войск. Отряд занял и приспособил к обороне несколько зданий порта, а затем в течение двух суток вёл ожесточённые бои, отбив 18 атак противника и уничтожив около 700 гитлеровцев.
Старший лейтенант Константин Ольшанский вместе с 57 своими бойцами погиб в бою 27 марта 1944 года. Из всего десанта в живых остались 11 человек; все были ранены и обожжены, пятеро — в тяжёлом состоянии.
В историю данная военная операция вошла под названием «Десант Ольшанского».
Указом Президиума Верховного Совета СССР от 20 апреля 1945 года за мужество и героизм, проявленные в боях с немецко-фашистскими захватчиками, старшему лейтенанту Ольшанскому Константину Фёдоровичу посмертно присвоено звание Героя Советского Союза, как 55-ти десантникам его отряда, 12-ти сапёрам и проводнику.