Родился в деревне Харино (Духовщинский уезд Смоленской губернии). Отец работал в книжной лавке в Смоленске. В 1903 поступил юнгой на корабль торгового флота. С 1905 активно участвовал в революционном движении; в 1906—1909 был в ссылке в Усть-Сысольске; в 1914 жил в Санкт-Петербурге. В 1913 опубликовал первые стихи в рабочей печати. Во время Первой мировой войны был мобилизован в армию, в 1917-18 — секретарь партийной организации большевиков в одном из московских районов. В 1918 работал в петроградском, в конце 1918 — начале 1919 в тамбовском, а в конце 1919 в московском Пролеткульте. В 1920 перешёл в «Кузницу», затем стал первым председателем ВАПП. Для Кириллова и М. П. Герасимова, с которым он был дружен, введение нэпа в 1921 представлялось изменой идее революции, и они вышли из партии. С тех пор Кириллов отошёл от пролетарской поэзии, «где всё мечты, мечты и ложь». Жил в Москве в знаменитом «Доме писательского кооператива» (Камергерский переулок, 2). В 1937 стал жертвой репрессий (арестован 30 января, приговорён 15 июля). В 1957 реабилитирован, в 1958 вышел сборник его стихов.
Кириллову принадлежит знаменитая строчка в стихотворении «Мы», написанном в ответ на заявление А. В. Луначарского о выходе в отставку в знак протеста против разрушения памятников русской культуры:
Владимир Маяковский в своей биографии «Я сам» написал о том, как впервые пытался сочинить «полустихотворение»: «Получилось невероятно революционно и в такой же степени безобразно. Вроде теперешнего Кириллова».