Рубин Удлер родился в портовом валашском городе Брэила в правобережье Дуная в 1925 году. Его родители, выходцы из Арциза и Аккермана (тогда Четатя Албэ) Яков Аронович Удлер и Дина Владимировна Глейзер переселились в Брэилу из Бессарабии после бракосочетания в начале 1920-х годов. Вскоре Яков Аронович основал фирму «Янку Басарабяну», которая вобрала в себя кожевенный магазин, дубильню и шорную мастерскую, и уже через несколько лет превратилась в доходное предприятие.
В Аккермане Рубин Удлер продолжил учёбу теперь уже в русской школе, но меньше чем через год началась Великая Отечественная война и с потоком беженцев семья Удлер оказалась в Одессе. Здесь с помощью знакомого по Брэиле румынского офицера Раду М. Бадиу Удлерам удалось пережить массовый погром, учинённый над евреями оккупационной румынской армией. Но вскоре они были депортированы в пересыльное гетто на Слободке, а оттуда в феврале 1942 года так называемым «маршем смерти» (в товарном вагоне и пешим шествием, по ходу которого расстреливались немощные и отстающие) в небольшое гетто на хуторе Виноградный Сад Богдановского сельсовета в 7 километрах к югу от печально известного гетто Богдановки — одного из самых крупных в Транснистрии.
Здесь, на правом берегу реки Южный Буг семья Удлер находилась на принудительных работах до конца 1943 года, все члены семьи переболели сыпным тифом, а в декабре 1943 года были переведены в гетто хутора Граждановка Врадиевского района уезда Голта. Двенадцать членов семьи были убиты в Транснистрии, но сам Рубин Удлер с родителями и сестрой дожили до наступления Красной Армии в 1944 году и после освобождения Одессы вернулись в этот город.
В Одессе Р. Я. Удлер записался добровольцем для отправки на фронт и был направлен в артиллерийское училище, где находился 188-ой Запасной стрелковый полк (ЗСП). Но вместо действующей армии как неблагонадёжный узник нацистских лагерей был откомандирован в 8-ю трудколонну Микуньского стройучастка Севжелдорстроя НКВД, в Коми АССР, где находился до конца сентября 1945 года, когда получил вызов на учёбу в Московский строительный техникум, а оттуда возвратился к семье в Белгород-Днестровский и поступил на подготовительный курс местного Учительского института. С 1946 года учился на французском отделении филологического факультета Черновицкого университета.
После окончания Черновицкого университета в 1951 году работал преподавателем, затем заместителем заведующего кафедрой иностранных языков Черновицкого педагогического института. В 1956 году был принят по конкурсу на должность младшего научного сотрудника Института истории, языка и литературы Молдавского филиала Академии наук СССР. С тех пор целиком посвятил свою научную деятельность диалектологии молдавского языка, что к концу 1960-х годов завершилось публикацией монументального четырёхтомного диалектологического атласа молдавского языка и серии последующих статей и монографий по этой тематике.
Защитил кандидатскую диссертацию в 1961 году в Институте языкознания Академии наук СССР, докторскую диссертацию — в 1974 году в Ленинградском отделении Института языкознания Академии наук СССР. С 1961 по 1992 год заведовал отделом диалектологии и лингвистической географии Института языка и литературы Академии наук Молдовы. С 1989 по 1992 год был заместителем академика-секретаря Отделения гуманитарных наук Академии Наук Молдовы.
Рубин Удлер был ответственным редактором первого тома «Общекарпатского диалектологического атласа» (ОКДА, см. Р. Я. Удлер и С. Б. Бернштейн, «Общекарпатский диалектологический атлас» и его восточно-романский аспект. Лимба ши литература молдовеняскэ. Кишинёв, № 2, 1976, с. 49—56) — объединённого проекта академий наук Молдовы, Украины, Польши, Словакии, Венгрии, СССР и Югославии. Совместно с видным советским диалектологом-балканистом С. Б. Бернштейном (1910—1997) издал сборники вводных статей и материалов ОКДА. С 1989 по 2005 год под редакцией Рубина Удлера, Самуила Бернштейна, Лайоша Балога, Я. Закревской, Я. Ригера, И. Рипки, Др. Петровича были изданы 7 выпусков «Общекарпатского диалектологического атласа» в разных странах Карпатского региона.
Помимо собственно романской филологии, Р. Я. Удлер занимался также изучением молдавско-славянских и молдавско-гагаузских языковых контактов (последних совместно с молдавским тюркологом-гагаузоведом Б. П. Туканом). С 2001 года принимал участие в работе над Румынским лингвистическим атласом по регионам: Бессарабия (Atlasul linguistic rom?n pe regiuni: Basarabia).
С 1992 года жил в Питтсбурге (штат Пенсильвания), где подготовил изданные в 2003—2006 годах на русском, английском и румынском языках воспоминания о пережитых годах в гетто Транснистрии, основанные на дневниковых записях и дополненные обширными архивными материалами и документами.
Часть 1: Фонетика (1968). Часть 2: Фонетика. Морфология (1968). Часть 3: Лексика (1972). Часть 4: Лексика (1973).