Родился 20 апреля (2 мая) в Темрюке. Отец — Аркадий Александрович Шенгели (1853—1902), адвокат; мать — Анна Андреевна, урожд. Дыбская (1862—1900). В 1898 г. семья переехала в Омск. После смерти родителей Шенгели с сестрой был взят на попечение бабушкой со стороны матери — Марией Николаевной Дыбской (1840—1914) и жил у неё в Керчи.
Учился в Александровской гимназии, где с третьего класса стал подрабатывать репетиторством. С 1909 г. сотрудничал в газетах «Керчь-Феодосийский курьер», «Керченское слово» и др., писал хронику, фельетоны, статьи по авиации. В том же году сошёлся с товарищем по гимназии С. А. Векшинским, с которым дружил до последних дней.
В 1912 г. начал писать стихи, заинтересовался стиховедением. Благодаря учителю французского языка С. Краснику приобщился к французской поэзии. В конце 1913 г. опубликовал в газете (анонимно или под псевдонимом) первые стихи.
В январе 1914 г. познакомился с приехавшими в Керчь на «олимпиаду футуризма» И. Северяниным, Д. Бурлюком, В. Баяном и В. Маяковским. Сильным влиянием Северянина отмечен дебютный сборник стихов Шенгели «Розы с кладбища» (1914), в котором автор вскоре разочаровался и уничтожил все доступные ему экземпляры. В том же году выступил с первой публичной лекцией «Символизм и футуризм».
Летом 1914 г. поступил на юридический факультет Московского университета; несколько месяцев жил в Москве, гостил у Д. Бурлюка на хуторе под Москвой. Поздней осенью перевёлся в Харьковский университет, где служил его дядя — профессор химии Владимир Андреевич Дыбский, чья дочь Юлия стала первой женой Шенгели. В 1916 г. совершил два всероссийских турне с И. Северяниным, выпустил сборник стихотворений «Гонг», отмеченный Ю. Айхенвальдом в петербургской газете «Речь». В 1918 г. окончил университет, в том же году вышел сборник его стихотворений «Раковина», знаменующий переход к более аскетической стилистике и демонстрирующий отточенную технику и литературную эрудицию.
Весной 1919 г. был командирован в Крым, получил назначение «комиссаром искусств» в Севастополь. Летом, после эвакуации Крыма, вынужден был скрываться; с фальшивым паспортом, выданным Севастопольской парторганизацией, пробрался в Керчь, а осенью — в Одессу.
Осенью 1921 г. вернулся в Харьков, а в конце марта 1922 г. переехал в Москву, где познакомился с поэтессой Ниной Манухиной, ставшей через два года его второй женой. За «Трактат о русском стихе» избран действительным членом ГАХН. В 1925—1927 председатель Всероссийского союза поэтов. Преподавал в ВЛХИ.
С середины 1930-х гг. оригинальных стихов практически не публиковал, но занимался активной переводческой и организаторской деятельностью (в 1930-е гг. заведовал переводами «литературы народов СССР» в Госиздате).
Известны его теоретические работы по стиховедению «Трактат о русском стихе» (1921, 2 изд. — 1923) и изданная посмертно «Техника стиха» (1960), сыгравшие важную роль в изучении русского стиха (в частности, Шенгели одним из первых, вслед за Брюсовым, обратил внимание на дольник в русской поэзии).
В истории русской литературы известна также его острая полемика с Маяковским (памфлет «Маяковский во весь рост», 1927).