Почётный член лингвистического общества Чехословацкой АН, почётный доктор Варшавского университета, иностранный член Академии наук и литературы в Майнце, Саксонской АН.
Родился в армянской семье, раннее детство провёл в Нагорном Карабахе. Учился в Лазаревском институте, в 1925 окончил МГУ.
В 1940 оглох, до конца жизни пользовался слуховым аппаратом.
Основные труды посвящены исторической и описательной русской диалектологии, истории русского языка, исторической и описательной фонетике, фонологической теории, русской орфоэпии и орфографии.
Многие годы возглавлял всю диалектологическую работу в Москве. Аванесов ежегодно участвовал в диалектологичеких экспедициях, а потом и руководил ими. Был вдохновителем грандиозной работы по сбору сведений о русских говорах, созданию Диалектологического атласа русского языка (ДАРЯ) и Общеславянского лингвистического атласа (ОЛА).
Теоретические взгляды Аванесова в области диалектологии нашли отражение в его «Теории лингвистической географии», а также в «Программе собирания сведений для составления диалектологического атласа русского языка» (1945). Вступительные статьи Аванесова к «Атласу русских народных говоров» легли в основу теоретических постулатов Московской школы лингвистической географии.
По его программе изучали русские говоры на огромной территории — от юга Архангельской области до Дона, от территорий вокруг Новгорода, Пскова, Смоленска до восточных берегов Волги и прилегающих районов Заволжья. Эту работу проводил сектор диалектологии Института русского языка АН СССР в тесном сотрудничестве с Рубеном Ивановичем, который после слияния этого сектора с сектором истории русского языка возглавил исследования. По учебнику Аванесова и В. Г. Орловой «Русская диалектология» готовят филологов и сейчас.
Вместе с П. С. Кузнецовым, В. Н. Сидоровым, А. А. Реформатским разработал теорию фонем, которая легла в основу концепции фонетики и фонологии Московской фонологической школы. Чрезвычайно полезным оказался данный подход для развития теории письма. Классический труд Аванесова — «Фонетика современного русского литературного языка» (1956).
Уникален вклад Аванесова в теорию русской орфоэпии: до сих пор настольной книгой любого лингвиста-русиста является его «Русское литературное произношение» (1950), выдержавшее шесть изданий. Под редакцией Аванесова издавался «Словарь древнерусского языка XI—XIV вв.»