Оскар Борисович Фельцман родился 18 февраля 1921 года в Одессе в семье хирурга-ортопеда Бориса Осиповича Фельцмана. Отец профессионально играл на фортепиано. Оскар Фельцман с раннего детства не пропускал ни одного концерта выступавших и гастролировавших в Одессе музыкантов.
В возрасте пяти лет Оскар Фельцман начал заниматься игрой на скрипке с известным педагогом Петром Столярским. Игре на рояле он обучался у Берты Рейнгбальд, у которой занимались Эмиль Гилельс, Татьяна Гольдфарб и другие известные пианисты. Первая фортепианная пьеса Оскара Фельцмана — «Осень» появилась через год, когда Оскару Фельцману было шесть лет. В 1939 году О. Фельцман окончил школу имени П. С. Столярского, по классу композиции занимался у профессора Николая Вилинского. Затем поступил на композиторский факультет Московской консерватории в класс В. Я. Шебалина, который от имени Московской консерватории направил Николаю Вилинскому благодарственное письмо за мастерскую подготовку О. Фельцмана как композитора.
Во время Великой Отечественной войны Фельцман был эвакуирован в Новосибирск, где в возрасте 20 лет стал ответственным секретарём Сибирского Союза композиторов. В Новосибирске Фельцман писал музыку для филармонии, Ленинградского Александринского театра, Еврейского театра Белоруссии. В тот же период Фельцман написал оперетту по пьесе Валентина Катаева «Синий платочек», которая была разгромлена в газете «Правда».
В 1941 году в Новосибирске Оскар Фельцман женился на студентке дирижёрско-хорового факультета Московской консерватории Евгении Петровне Кайдановской. В Москву он вернулся с женой в 1945 году. Временно поселились у родственников в Кривоарбатском переулке.
В 1948 году в Московском театре оперетты состоялась премьера музыкальной комедии «Воздушный замок». В 1952 году состоялись ещё две премьеры — в Театре оперетты — «Суворочка» и в Театре Станиславского и Немировича-Данченко — «Шумит Средиземное море». Фельцман также начал писать музыку к цирковым номерам, эстрадным представлениям, постановкам для детей Натальи Сац.
В 1952 году Оскар Фельцман написал «Концерт для скрипки с оркестром» в трех частях. Затем он написал несколько песен — первой из них стала песня «Теплоход» на стихи В. Ю. Драгунского и Л. Н. Давидович для пародийного театра «Синяя птичка». Позднее песня вышла на эстраду, и её неоднократно исполнял Леонид Утёсов.
Большую популярность получила песня «Ландыши», написанная на стихи Ольги Фадеевой и впервые исполненная Геленой Великановой. В советской прессе песня была признана мещанской, идеологически несостоятельной. Из-за этой песни Фельцман оказался в опале на 23 года. Тем не менее его песни постоянно звучали на радио и в концертах.
В песенном творчестве Оскар Фельцман сотрудничал с разными поэтами, среди которых Андрей Вознесенский, Расул Гамзатов, Евгений Долматовский, Михаил Матусовский, И. Кохановский, Марк Лисянский, Лев Ошанин, Роберт Рождественский, Владимир Харитонов, И. Шаферан, Михаил Танич, В. Орлов, Наум Олев, Михаил Рябинин.
Песни Фельцмана исполняли мастера советской и российской эстрады: Леонид Утёсов, Марк Бернес, Владимир Трошин, Эдита Пьеха, Валентина Толкунова, Вероника Круглова, Иосиф Кобзон, Муслим Магомаев, Эдуард Хиль, Юрий Гуляев, Георг Отс, Михаил Чуев, Лев Лещенко, Капиталина Андреевна Лазаренко, Олег Анофриев, Мария Пахоменко, Леонид Серебренников, Ирина Аллегрова, София Ротару, Леонид Екимов и многие другие.
Наибольшую популярность имели и имеют песни Фельцмана в исполнении Эдиты Пьехи: «Огромное небо», «Белый свет», «Венок Дуная», «Манжерок», «Ничего не вижу» и др. Фельцман называет Э. Пьеху своей любимой исполнительницей.
В 1973 году Оскар Фельцман написал музыку к спектаклям «Тётка Чарлея», «Старые дома» и «Пусть гитара играет». В середине 1980-х годов Фельцман организовал для своих авторских концертов инструментальный ансамбль «Огни Москвы» с солисткой Ириной Аллегровой.
В 1987 году Оскар Фельцман написан вокальный цикл «Песни былого», музыку к нескольким еврейским народным песням по тексту книги «Песни былого. Из еврейской народной поэзии» (в переводе Наума Гребнева — М., 1986). Исполнил цикл этих песен Иосиф Кобзон.
В конце 1990-х годов Фельцман написал 12 песен на стихи Юрия Гарина. Композитор исполнял их в Одессе на авторском концерте в дни празднования 200-летия города. Эти песни исполняют в том числе Алла Иошпе и Стахан Рахимов, Клара Новикова.
Оскар Фельцман написал также ряд камерных произведений: «Десять романсов на стихи Инны Лиснянской», «Цикл романсов на стихи Марины Цветаевой», «Цикл песен на стихи Хаима Бялика».
В октябре 2011 года принял участие в подготовке издания книги из серии «Автограф века».
Сын Оскара Фельцмана — известный американский пианист Владимир Оскарович Фельцман.