Родился в 1902 году в Москве. Военную карьеру начал с 1919 года в возрасте семнадцати лет. В 1926 году вступил в ВКП(б). В 1931 году окончил военно-инженерную школу.
Участвовал в советско-финской войне. В 1940 году назначен начальником Инженерного управления Ленинградского военного округа и остаётся на этой должности вплоть до начала Великой Отечественной войны. 23 июня 1941 года Бычевский становится начальником Инженерного управления Северного фронта. С 23 августа 1941 по 1945 год занимает должность командующего — начальник инженерных войск Ленинградского фронта с задачей оборонять Ленинград на трех рубежах круговой обороны. 4 августа 1942 года Борису Бычевскому присвоено звание генерал-майора инженерных войск, а 22 июня 1944 года — звание генерал-лейтенанта.
После окончания Великой Отечественной войны назначен на должность генерал-инспектора Главной инспекции ВС СССР. С 1949 года и до выхода в отставку в 1959 году работал в центральном аппарате Министерства обороны.