Родился в селе Кутерем Бирского уезда Уфимской губернии (Башкирской АССР) в семье крестьянина.
В 1919 году вступил в комсомол, был организатором одной из первых первичных комсомольских организаций Башкирии. В 1919—1922 годах на комсомольской и профсоюзной работе в Башкирской АССР ответственный секретарь Колегинского райкома и Бирского уездного комитета комсомола. С 1921 года член ВКП(б).
В 1925 году окончил Московский институт народного хозяйства им. Г. В. Плеханова.
С 1925 года на хозяйственной и кооперативной работе в Западной Сибири: председатель правления окружных союзов сельскохозяйственной кооперации, начальник Трактороцентра, заместитель председателя Сибирского колхозсоюза. Принимал самое активное участие в проведении коллективизации и связанных с ней репрессий в Западной Сибири.
С 1939 года — секретарь Новосибирского обкома партии по пищевой промышленности, затем первый заместитель председателя, председатель Новосибирского областного потребсоюза. С 1940 года — секретарь Новосибирского обкома ВКП(б) по пищевой промышленности. В 1941—1943 годах был первым заместителем председателя Новосибирского облисполкома.
С 1943 года председатель Алтайского крайисполкома, первый секретарь крайкома партии. Возглавил работы по восстановлению и развитию экономики края на завершающем этапе Великой Отечественной войны и в послевоенный период, по освоению целинных и залежных земель в крае. Экономика Алтайского края в этот период претерпела существенные изменения: из преимущественно аграрного он превратился в крупный промышленный регион, Барнаул, Бийск и Рубцовск стали значительными индустриальными центрами.
Начиная с 1946 года избирался депутатом Верховного Совета СССР, принимал участие в созывах с второго по пятый.
В 1952—1961 годах член ЦК КПСС. С 12 июля 1955 по 12 ноября 1958 года занимал пост секретаря ЦК КПСС, одновременно с 1956 года заместитель председателя Бюро ЦК КПСС по РСФСР, с 29 июня 1957 по 4 мая 1960 года — член Президиума Центрального комитета КПСС.
C 1957 года — первый секретарь ЦК Компартии Казахстана. В связи с восстанием в Темиртау 1959 года в январе 1960 года переведён на работу первым секретарём Ставропольского крайкома КПСС и в этом же году отправлен на пенсию.
Умер 28 октября 1966 года. Похоронен на Новодевичьем кладбище в Москве.
Награждён орденом Ленина, орденом Трудового Красного знамени, медалью «За доблестный труд в Великой Отечественной Войне 1941—1945 гг.»
Именем Беляева названа улица в Октябрьском районе Барнаула, бывшая Юбилейная.