Член партии с 1896 года, канд. в чл. ЦК (1920, 1921, 1922), чл. ЦКК (1923, 1924, 1925, 1927, 1930), чл. Президиума ЦКК (1923, 1924, 1925), осн. секр. ЦКК (1924), секр. ЦКК (1923, 1925).
Сын учителя. Детство (до 5 лет) провел в городе Борисоглебске. До 1884 жил в селе Надеждино (Куракино) Сердобского уезда Самарской губернии.
В 1884—1886 жил в Сердобске. В 1887 году переехал в Ростов-на-Дону, где поступил в 3-й класс реального училища, которое окончил в 1892 году. В 1893 году пытался поступить Петербургский технологический институт, но не был принят. Жил в Одессе, Ростове. В 1896 году поступил в Петербургский технологический институт.
Вступил в Союз борьбы за освобождение рабочего класса. После участия в студенческой демонстрации 4 марта 1897 был арестован 21 марта, при обыске у него были найдены социал-демократические брошюры. После этого Гусев был выслан а Ростов-на-Дону под гласный надзор полиции. С 1900 по 1903 был сотрудником в «Приазовском крае» и «Донской речи», работал в донском партийном комитете РСДРП, который возглавлял некоторое время. В 1900—1901 ездил на 8 месяцев в Брюссель. Участвовал в руководстве ростовской забастовкой 1902 года.
Участник II съезда РСДРП, в свободное от заседаний время, по вечерам С. И. Гусев великолепным баритоном пел арии из опер, романсы. Осенью 1903 объехал южные города (Киев, Одессу, Николаев, Харьков) с докладами о съезде. Затем выехал за границу, где оставался (Женева, Париж) до ноября 1904 года.
Участник революции 1905 года, с декабря 1904 по май 1905 секретарь Петербургского комитета РСДРП и член Бюро комитета большинства. Затем секретарь Одесского комитета партии, с 1906 парторганизатор железнодорожного района Москвы. Весной 1906 ездил в Стокгольм на IV съезд РСДРП. В сентябре 1906 был арестован в Москве. Провёл в тюрьме 9 месяцев, а затем был выслан в город Березов Тобольской губернии. Через год был перевеен в Тобольск, откуда весной 1909 бежал.
В течение лета и осени 1909 по поручению ЦК объезжал южные города (Киев, Одесса, Николаев, Елисаветград, Екатеринослав, Харьков), затем работал около 2 месяцев в Одессе.
В 1910 отошел от партийной работы. Как писал сам Гусев «Острое нервное заболевание, начавшееся в Териоках и затем крайне усилившееся вследствие пребывания на нелегальном (без паспорта, без квартиры, без заработка), на долгие годы вывело из строя и лишило возможности продолжать партийную работу, которая возобновилась только в 1917 году.»
Работал секретарем, корректором «Военной энциклопедии», издававшейся И. Д. Сытиным.
Во время Октябрьской революции 1917 возглавлял секретариат Петроградского военно-революционного комитета. В феврале-марте 1918 секретарь Комитета революционной обороны Петрограда, затем управляющий делами Северной коммуны, ближайший сотрудник Г. Е. Зиновьева. В сентябре-декабре 1918 — член Реввоенсовета (РВС) 2-й армии, в декабре 1918 — июне 1919 — Восточного фронта.
В июне-декабре 1919 командующий Московским сектором обороны, военком Полевого штаба Реввоенсовета Республики. В июне-декабре 1919 и в мае 1921 — августе 1923 член РВСР. В июле-декабре 1919 в его непосредственном подчинении находились органы советской военной разведки.
Член РВС Юго-Восточного (декабрь 1919 — январь 1920), Кавказского (январь-август 1920), Юго-Западного (сентябрь-октябрь 1920) и одновременно Южного (сентябрь-декабрь 1920) фронтов.
С января 1921 по февраль 1922 — начальник Политуправления РВСР и одновременно председатель Туркестанского бюро ЦК РКП(б).
В феврале 1922 — апреле 1924 член РВС Туркестанского фронта. В 1923—1925 член коллегии Наркомата рабоче-крестьянской инспекции СССР. Гусев возглавлял Военно-историческую комиссию по изучению опыта мировой и Гражданской войн при РВС СССР. В 1925—1926 заведующий отделом печати ЦК ВКП(б). С 1928 руководитель Центрально-Европейского секретариата Коминтерна. С 1928 кандидат в члены Исполкома Коминтерна (ИККИ), в 1929—1933 член Президиума ИККИ.
Автор работ по истории Гражданской войны. Похоронен в Кремлевской стене.
Жена — Феодосия Ильинична Драбкина (партийные псевдонимы Наташа, Марианна; урождённая Фейга Ильинична Капелевич, 1883—1957), революционерка, прообраз пропагандистки Наташи в романе М. Горького «Мать». Дочь — Драбкина, Елизавета Яковлевна (1901—1974), писательница. Внук — Артём Владимирович Драбкин.