Иосиф Моисеевич Раевский родился в Оренбурге 25 декабря 1900 года (7 января 1901).
В годы Гражданской войны 1918—1920 работал в театре Политотдела 1-й армии Восточного фронта, затем во 2-й Студии МХТ.
С 1922 года стал актёром МХАТа.
С 1932 года Раевский преподавал в ГИТИСе, являлся профессором этого ВУЗа с 1939 года.
Начиная с 1945 года заведовал кафедрой актёрского мастерства. За время своей педагогической работы подготовил несколько национальных курсов: осетинский, кабардинский. Среди его учеников: Юрий Пузырёв, Николай Рушковский, Марк Захаров, Светлана Брагарник, Александр Абдулов, Николай Мерзликин, Александр Мягченков и др.
Иосиф Моисеевич Раевский умер в Москве 23 сентября 1972 года. Похоронен на Переделкинском кладбище.
Иосиф Моисеевич также ставил спектакли в театрах БССР, в Канаде («Три сестры» А. П. Чехова, 1966, Монреальский театр).