Сын писателей М.Ильина и Е. Сегал. По национальности — еврей. Детство провел в Ленинграде, затем был эвакуирован и вернулся в Ленинград в 1957 году. Ребенком в эвакуации заинтересовался древностями Средней Азии. Вся его дальнейшая научная жизнь была, в основном, связана с Таджикистаном.
Поступил учиться на Кафедру Археологии Истфака МГУ, закончил учебу в 1956 г. В 1954 году впервые поехал на раскопки городища Древнего Пенджикента (Таджикистан), и с тех пор пропустил только один сезон - 1956 г., когда у МГУ должны были проходить военные сборы.
После окончания МГУ работал в Институте истории, археологии и этнографии АН Таджикской ССР. С 1978 г., начальник Пенджикентской археологической экспедиции (сменил на этом посту Александра Марковича Беленицкого).
С 1958 г. работал в Отделе Востока Государственного Эрмитажа, с 1978 г. — глава сектора Средней Азии и Кавказа.
Как участник, а с 1978 г. и руководитель Пенджикентской археологической экспедиции Государственного Эрмитажа, продолжал и развивал раскопки эталонного памятника согдийской археологии. Раскопанная территория (по верхнему периоду, VIII в. н. э.) в настоящее время превышает половину площади городища, хронология керамики дает точность до четверти века, знаменитая настенная живопись найдена в большинстве частных домов. С 1996 г. Пенджикентская экспедиция публикует ежегодные отчеты в форме монографий.
Б. И. Маршак скончался в Пенджикенте, похоронен там же.
Вдова Б. И. Маршака, археолог В. И. Распопова, так описывает подробности случившегося:
Основная сфера научных интересов — археология Согдианы и восточное серебро.
В своей книге «Согдийское Серебро» (М., 1971 г.) на основе анализа формальных, иконографических и других особенностей ряда серебряных сосудов, найденных, в первую очередь, на Каме и в Северо-Западной Сибири, пришел к выводу о существовании особого, ранее неизвестного центра производства серебряной утвари, который надежно отождествил с Согдианой.
В области интерпретации археологических объектов Пенджикента, наиболее яркой стороной деятельности выступает иконографическое и сюжетное исследование, реконструкция, «дешифровка» настенной живописи. В своей монографии «Legends, Tales and Fables in the Art of Sogdiana» (NY, 2002) М. анализирует отражение «бродячих» литературных сюжетов древности и раннего Средневековья в живописи Пенджикента.
Множество работ написал в соавторстве со своим учителем, А. М. Беленицким, и супругой, Валентиной Ивановной Распоповой, с коллегами и учениками.