Родился в крестьянской семье. Учился в начальной школе в Папилисе (закончил в 1908 году), в четырёхклассной школе в Биржай (1908—1910), в сельскохозяйственном училище в Белоруссии (оставил за нехваткой средств).
С 1912 года жил в Вильне, готовясь к экзаменам на аттестат зрелости. Был личным секретарём поэта Людаса Гиры. В 1914 году вернулся на родину. Закончив в 1915 году в Вильне учительские курсы, служил учителем в Папилисе. В 1918—1919 годах участвовал в деятельности левых эсеров в Биржайском уезде. После того, как польские части заняли Вильну и Виленский край, вступил добровольцем в полк Железного Волка.
В 1920—1923 годах в Берлинском университете слушал лекции по литературе и философии. Познакомился с авангардистскими течениями и по возвращении в Литву объединил молодых писателей и художников в группировку футуристической ориентации «Четыре ветра» (Юозас Жлабис-Жянге, Салис Шемерис, Пятрас Тарулис). В годы войны в 1941-42 гг. прятал еврейских детей. Умер от туберкулёза.
С 1909 года начал печатать прозаические сценки в газете «Вильтис» („Viltis“; «Надежда»), стихотворения начал публиковать в 1913 году. Мотивы первой книги «Стихотворения» („Eil?ra??iai“, 1920) — природа Литвы, деревенская жизнь и юношеская любовь.
Книга «100 вёсен» („100 pavasari?“, 1923; второе издание 1926) ознаменовала поворот в авангардизму.
Автор пьесы «Поросль» („At?alynas“, 1938) из жизни учащейся молодёжи и антивоенной драмы «Генеральная репетиция» („Generalin? repeticija“, 1940, изд. 1958).
Автор стихов для детей и стихотворных сатирических и юмористических фельетонов. Составитель антологий литовской народной песни, литовской поэзии „Vainikai. Naujesniosios poezijos antologija“ (Kaunas, 1921) и „Antrieji vainikai“ (1936). Писал также биографические очерки о президенте Антанасе Сметоне (1934), о епископе Мотеюсе Валанчюсе (1935), также историко-просветительскую книжку о Витовте Великом (1930). Сотрудничал в журнале сатиры и юмора «Спактива» („Spaktyva“; 1924—1934) под редакцией Пранаса Будвитиса.
Пользовался псевдонимами K. Alijo?ius, K. Papilietis, Kazys, Kazys Roviejietis, Nedarbininkas, Neklaip?dietis, Nelatvis, Nepartyvis, Ras Desta, Riza Chanas и многими другими.
Переводил стихи А. С. Пушкина, басни И. А. Крылова.
В его пересказах на литовский язык печатались также роман «Давид Копперфильд» Чарльза Диккенса, «Кавказский пленник» Л. Н. Толстого, сказки Р. Киплинга и Д. Н. Мамина-Сибиряка, стихи для детей С. Маршака и К. Чуковского.
Стихи Казиса Бинкиса переведены на армянский, латышский, немецкий, польский, русский языки. На русский язык его стиховторения переводили Евгений Шкляр, Андрей Клёнов, Юрий Кобрин.