Константин Леванович родился в семье князя Левана Годжаспировича Геловани и Деспины Григорьевны Шервашидзе. Родовое имение — с. Спатогори Кутаисской губернии Российской империи, ныне в составе Грузии.
В 1892 году вступил вольноопределяющимся в Эриванский 13-й лейб-гренадерский Царя Михаила Фёдоровича полк. Окончил Тифлисское пехотное юнкерское училище и был произведен в подпоручики (03.11.1897). До 1904 в том же полку. Во время Русско-японской войны 1904—1905 переведен в 7-й Кубанский пластунский батальон. На Дальнем Востоке за оказанные им блистательные подвиги и мужество получил боевые ордена: орден Святого Станислава III степени с мечами и бантом (1905), орден Святой Анны IV степени (1905). Произведен в подъесаулы (20.11.1904). В 1907 году переведен в прежний Эриванский Полк с переименованием в штабс-капитаны.
В 1913 году участвовал в торжествах по случаю трёхсотлетия дома Романовых в Костроме. Был в окружении Императора Николая II..
Во время Первой мировой войны сражался на Северо-Западном фронте. Был участником восьмидневнего боя у д.д. Кржижик-Хруслинский, Пржече, Ольшаны (с 22 по 29 ноября 1914 года). Командовал IV батальоном, был контужен бризантным снарядом, но остался в строю. За оказанные им мужество и героизм, был награждён Орденом Святого Георгия IV степени (1915).
Удостоен также орденов Орден Святой Анны III степени с мечами и бантом (1915), Орден Святого Владимира III с мечами и бантом (1915), Орден Святой Анны II степени с мечами (1915) и английского ордена Орден За выдающиеся заслуги «D.C.O.».
В 1916 году ему было присвоено воинское звание полковника. Остовался в полку до последних дней его расформирования. В декабре 1916 года полковник Кн. Геловани назначен командиром вновь сформированного 23-го Грерадерскаго Манглисскаго полка 2-й Кавказской гренадерской дивизии при 2-ом Кавказском армейском корпусе После образования Грузинской Демократической Республики Константин Геловани продолжал службу в армии и прилагал огромные усилия по созданию регулярной грузинской армии, входил в состав военного совета. В 1918—1921 гг. командир 4-го легиона (полка) 1-й дивизии грузинской армии.