Сельвинский родился 11 (24) октября 1899 г. в Симферополе в крымчакской семье. Дед его, Элья (Элиогу) Шелевинский, был кантонистом Фанагорийского полка. Отец, Лейба Эльшаелович (Лев Ильич) Селевинский, участвовал в Русско-турецкой войне 1877 года, затем торговал мехами и пушниной. Мать — Надежда Пиастро. Как писал сам Сельвинский в автобиографии (1967 г.), его отец «был меховщиком, а затем, разорившись, превратился в скорняка».
Будущий литератор учился в Евпаторийском начальном училище, а с 1915 по 1919 г. — в гимназии. С 1915 г. начал публиковать свои произведения (в частности, в газете «Евпаторийские новости»).
В годы революции принимал участие в революционном движении, во время гражданской войны воевал в составе Красной армии. Сменил множество профессий (был грузчиком, натурщиком, репортером, цирковым борцом и т. п.).
В 1923 г. Сельвинский окончил факультет общественных наук 1-го Московского государственного университета. Фактический лидер группы конструктивистов. В 1926 выпустил первый сборник стихов. В конце 20-х писал экспериментальные эпические поэмы, в начале 30-х авангардистские стихотворные драмы.
В 1927—1930 гг. вёл острую полемику с В. В. Маяковским. В 1930 г. выступил с покаянными заявлениями. Тогда же, как следует из его автобиографии, он пошел «работать сварщиком на электрозавод».
В 1933—1934 гг. корреспондентом «Правды» был в экспедиции, возглавляемой Отто Шмидтом на пароходе «Челюскин», прошел с чукчами на собаках по льдам Ледовитого океана и тундре до мыса Дежнёва.
С 1937 пишет исторические драмы в стихах. Член ВКП(б) с 1941 г. С 1941 по 1945 был на фронте в рядах Красной Армии, сначала в звании батальонного комиссара, затем подполковника. Получил две контузии и одно тяжелое ранение под Батайском.
В 1950-х сделал новые редакции произведений 1920-х гг.
Сельвинский умер 22 марта 1968 в Москве. Похоронен на Новодевичьем кладбище.
Дочь Ильи Сельвинского — художница и поэтесса Татьяна Ильинична Сельвинская (род. 2 ноября 1927, Москва), лауреат Государственной премии России.