Борис Шеболдаев был сыном врача.
С 1900 года жил в Петербурге. В 1914 вступил в РСДРП, большевик. В 1916 году был мобилизован в Российскую армию.
В 1917 году был заместителем председателя ВРК Кавказской армии. В 1918 году стал членом Бакинского комитета РКП (б) и заместителем наркома по военным делам Бакинского Совнаркома и в дальнейшем был уполномоченным РВС 12-й армии РККА.
В 1920—1923гг. секретарь Дагестанского обкома РКП(б) и зампред ревкома Дагестана.
в 1923—1924гг. заведующий отделом ЦК КП(б) Туркменистана.
в 1924—1925гг. секретарь Царицынского губкома РКП(б).
в 1925—1928гг. заместитель заведующего Отделом ЦК ВКП(б).
В 1928—1930 гг. секретарь Нижне-Волжского крайкома ВКП(б).
В 1931—1934 гг. первый секретарь Северо-Кавказского крайкома ВКП(б).
Во время хлебозаготовок 1932 года Б. П. Шеболдаев обращался к ЦК ВКП(б) с ходатайством о снижении плана хлебозаготовок по Северо-кавказскому краю, считая его невыполнимым. В постановлении ЦК ВКП(б) и СНК СССР от 6 мая 1932 г. «О плане хлебозаготовок из урожая 1932 г. и развертывании колхозной торговли хлебом» колхозам и единоличным хозяйствам Северного Кавказа план хлебозаготовок был снижен со 154 млн. пудов в 1931 г. до 136 млн. пудов в 1932 году. ЦК обвинил Б. П. Шеболдаева в пессимистических настроениях. Шеболдаев пытался убедить Генерального секретаря ЦК ВКП(б) И.В. Сталина в том, что план хлебозаготовок нереален, но аргументы были проигнорированы.
В 1934—1937 гг. первый секретарь Азово-Черноморского крайкома ВКП(б). По мнению историка Залесского К.А. ответственен за кампанию террора на Кубани.
в 1930-1937гг. член ЦК ВКП(б). в 1927-1930гг. член ЦКК ВКП(б). Член ЦИК СССР. Делегат XV—XVII съездов ВКП(б). С 1937 г. — первый секретарь Курского обкома ВКП(б).
По воспоминаниям Н.С. Хрущева на XVII съезде ВКП(б) передал С.М. Кирову пожелание «стариков» сместить И.В. Сталина с поста генерального секретаря.
10 июня 1937 года арестован, приговорен ВКВС 30 октября к расстрелу и расстрелян в тот же день. Захоронен на Донском кладбище.
В 14 марта 1956 реабилитирован и посмертно восстановлен в партии.