Родился в Пинске в семье столяра. Еврей. Сочувствовал революционному движению. Неоднократно арестовывался. В 1913 году мобилизован в действующую армию. Участник Первой мировой войны (1914 — 1917 гг.).
В мае 1918 года вступил в РККА. В 1918—1922 секретарь штаба Брянского района. В 1919 помощник начальника оперативного отдела 13-й армии, начальник штаба 1-й бригады 9-й стрелковой дивизии. В 1920 помощник начальника, а затем начальник штаба 57-й и 55-й стрелковых дивизий. В 1920—1921 начальник штаба Отдельной бригады. При подавлении тамбовского крестьянского восстания в 1921 командир Экспедиционного корпуса в Тамбове.
В 1922—1925 командир 17-го, в 1925—1928 командир 19-го стрелковых корпусов. В 1928—1934 начальник штаба Ленинградского ВО. С 1934 по 1937 год Б. М. Фельдман являлся начальником Управления по начальствующему составу РККА и членом Военного Совета при наркоме обороны СССР. В 1935 году ему было присвоено воинское звание комкора.
В 1937 году Борис Фельдман переводится на должность заместителя командующего войсками Московского ВО. В мае 1937 года Фельдман снят со всех постов, исключён из ВКП(б) и арестован. Расстрелян 12 июня 1937 года вместе с М. Н. Тухачевским, И.Э Якиром и другими военачальниками в подвале здания Военной коллегии Верховного Суда СССР.
В 1957 полностью реабилитирован и восстановлен в партии.