Учился в Дмитровском городском начальном училище, затем на бухгалтерских курсах. В Красной Армии с марта 1919 года. Воевал красноармейцем на Южном фронте, затем служил в гарнизоне Дмитрова. В марте 1921 года участвовал в подавлении Кронштадтского восстания.
В 1921 году окончил Детскосельские командные курсы тяжёлой артиллерии (1921), в 1926 году экстерном сдал экзамен за полный курс Первой артиллерийской школы, в 1931 году окончил Курсы усовершенствования командного состава артиллерии. С 1921 года служил в артиллерии, командовал взводом, был помощником командира батареи, начальником связи дивизиона тяжёлой артиллерии особого назначения Высшей артиллерийской школы комсостава в городе Луга. С 1927 года — командир батареи, затем начальник полковой школы 25-го артиллерийского полка 25-й стрелковой дивизии Украинского военного округа.
С 1934 года — помощник командира артиллерийского полка 41-й стрелковой дивизии Харьковского военного округа, с 1937 года — командир этого полка, а с марта 1939 года — начальник артиллерии этой дивизии. С ноября 1940 года — заместитель начальника артиллерии 6-й армии в Киевском Особом военном округе. С марта 1941 года — начальник артиллерии 6-го стрелкового корпуса в том же округе.
В этой должности полковник Варенцов вступил в Великую Отечественную войну в составе войск Юго-Западного фронта. Участвовал в оборонительных сражениях на Украине. В Киевской катастрофе сумел сохранить значительную часть артиллерии корпуса и с боями вывести её из кольца окружения, при этом присоединив к своим частям несколько тысяч красноармейцев из разбитых частей. За это был награждён своим первым орденом, повышен в звании до генерал-майора артиллерии (09.11.1941) и в должности — в ноябре 1941 года назначен начальником артиллерии 40-й армии Юго-Западного фронта. Участвовал в наступательных Елецкой операции и Барвенковско-Лозовской операции, в оборонительных Харьковской операции и Воронежско-Ворошиловградской операции. С сентября 1942 года — начальник артиллерии 60-й армии Воронежского фронта. 4 февраля 1943 года ему присвоено звание генерал-лейтеанта артиллерии, а уже 20 октября 1943 года — генерал-полковника артиллерии.
С октября 1942 года и до конца войны был бессменным командующим артиллерией Воронежского фронта (после переименования фронта в октябре 1943 года — 1-го Украинского фронта). Проявил себя отличным артиллерийским начальником. Организовывал и осуществлял артиллерийское обеспечение боевых действий войск фронта в Острогожско-Россошанской операции, в Харьковской наступательной и в Харьковской оборонительной операциях в зимне-весенней кампании 1943 года, в Курской битве, в битве за Днепр, в Корсунь-Шевченковской, Ровно-Луцкой, Проскуровско-Черновицкой, Львовско-Сандомирской, Висло-Одерской, Берлинской, Пражской наступательных операциях.
С июля 1945 года был командующим артиллерией Центральной группы войск 1-го формирования, дислоцированной на территории Австрии и Венгрии. С января 1947 года — командующий артиллерией Прикарпатского военного округа. В 1951 году окончил Высшие академические курсы при Военной академии Генерального штаба. С октября 1951 года — командующий артиллерией Закавказского военного округа. С января 1952 года - начальник Главного артиллерийского управления, одновременно с января 1952 года по май 1953 года являлся заместителем командующего артиллерией Советской Армии.
С марта 1955 года — командующий артиллерией, а с января 1961 года — командующий ракетными войсками и артиллерией Сухопутных войск. Маршал артиллерии (11.03.1955). Главный маршал артиллерии (6.05.1961). Депутат Верховного Совета СССР 6-го созыва (1958—1962 г.).
В конце 1962 года был арестован за шпионаж в пользу США и Великобритании полковник Главного разведывательного управления О. В. Пеньковский, который в 1944—1945 годах был адъютантом С. С. Варенцова. После войны они на несколько лет потеряли друг друга из виду, встретившись в середине 50-х годов. По просьбе Пеньковского, Варенцов помог ему с трудоустройством, обеспечив назначение на должность начальника курса в Военной академии имени Ф. Э. Дзержинского. На тот момент Пеньковский ещё не был завербован иностранной разведкой. Когда Пеньковский вернулся на службу в ГРУ, он стал периодически бывать у маршала дома, однако в ходе расследования по его делу не было установлено, что Пеньковский добыл какие-либо сведения от Варенцова или используя знакомство с Варенцовым.
При расследовании дела Пеньковского и в суде над ним Варенцов проходил только как свидетель, никакого обвинения ему не предъявлялось. Однако он был подвергнут исключительно тяжелым дисциплинарным мерам: Указом Президиума Верховного Совета СССР от 12 марта 1963 года С. С. Варенцов был лишен звания Героя Советского Союза и ордена Ленина; приказом Министра обороны СССР от 13 марта 1963 года он понижен в воинском звании на четыре ступени — до генерал-майора артиллерии; Постановлением Пленума ЦК КПСС от 21 июня 1963 года вывел Варенцова из состава кандидатов в члены ЦК КПСС. Причины всех этих взысканий указывались стандартные: «за потерю политической бдительности и недостойные поступки». При этом тот факт, что помощь Пеньковскому Варенцов оказал ещё до вербовки того иностранной разведкой, когда фронтовик и кавалер нескольких орденов Пеньковский был ничем не запятнан перед Родиной — никак не учитывался, а в чем заключались «недостойные поступки» — вообще не уточнялось. Тогда же, в 1963 году уволен в отставку. Относительно лишения иных государственных наград — разные источники приводят разные сведения, текст соответствующего постановления не публиковался.
По некоторым данным, такое необычайно суровое наказание было вызвано разногласиями Варенцова с Н. С. Хрущёвым и с Главнокомандующим Сухопутными войсками Маршалом Советского Союза В. И. Чуйковым.
Жил и скончался в Москве, похоронен на Новодевичьем кладбище. Многочисленные попытки родных и сослуживцев Варенцова добиться его реабилитации в советский период отвергались немедленно. В постсоветский период реабилитирован он также не был, поскольку судебному и уголовному преследованию не подвергался, а вся расправа с маршалом производилась в административно-дисциплинарном порядке. Не была восстановлена даже справедливость в части возвращения Варенцову звания Героя Советского Союза, ибо лишение этого звания могло производиться только на основании решения суда, а в отношении Варенцова судами никаких решений или определений не выносилось.