Начинал карьеру в команде «Уралмаш», в которой играл в 1964—1967 гг. и откуда его пригласили в сборную СССР. В 1967 году Сергей Белов получил сразу два титула — чемпиона мира и Европы. В 1968 году Белов переехал в Москву, где играл за ЦСКА на протяжении последующих 12 лет (по 1980 год). Выступая за ЦСКА, Сергей Белов 11 раз завоёвывал титул чемпиона СССР (1969—1974 и 1976—1980), становился серебряным (1975) и бронзовым (1968) призёром первенства страны, в 1973 году стал обладателем Кубка СССР. В 1971 году ЦСКА выиграл Кубок европейских чемпионов, Сергей Белов был играющим тренером. В 1969 году он также победил в этом турнире, будучи игроком ЦСКА.
Играя за сборную команду СССР (1967—1980), Белов также завоевал много титулов: олимпийский чемпион 1972 года, двукратный чемпион мира (1967, 1974), четырёхкратный чемпион Европы (1967, 1969, 1971, 1979), чемпион Универсиады 1970 года. Кроме того, он трижды становился бронзовым призёром Олимпийских игр (1968, 1976, 1980), был серебряным (1978) и бронзовым (1970) призёром чемпионатов мира, дважды завоёвывал серебро (1975, 1977) и один раз бронзу (1973) на первенствах Европы.
Сергей Белов зажигал огонь на Олимпийских играх 1980 года в Москве.
В 1981—1982 и 1988—1989 работал тренером в ЦСКА. В начале 1990 подписал контракт на 2 года с командой 1-й лиги из Италии «Кассино».
В 1993 году Сергей Белов стал президентом Российской федерации баскетбола и работал на этой должности до 1998 года, одновременно был тренером сборной России по баскетболу. На чемпионате мира в Канаде в 1994 году сборная страны под руководством Белова завоевала серебряные медали, проиграв в финале «команде-мечте» из США. На чемпионате Европы в Испании в 1997 году сборная России завоевала 3-е место, на чемпионате мира в Греции в 1998 году — второе, повторив успех четырёхлетней давности.
В 1999 году Сергей Белов перешёл работать главным тренером в «Урал-Грейт» (Пермь), с которым выиграл дважды чемпионат России (2001, 2002), стал двукратным серебряным призёром первенства России по баскетболу (2000, 2003), победил в NEBL (2001). Позже он был президентом этого клуба.
Сергей Белов стал первым неамериканцем, вошедшим в Баскетбольный Зал славы 11 мая 1992 года. Годом ранее ФИБА признала его лучшим европейским баскетболистом всех времён.