Сначала занимался плаванием, затем бегом. В 12 лет приехал на свой первый чемпионат России по двоеборью (плавание+бег) и выиграл. Через несколько лет попал в сборную и выиграл чемпионат Европы по троеборью. С этого момента решил заниматься профессионально и перешёл учиться в училище олимпийского резерва.
На первенстве мира среди юношей не старше 18 лет, проходившего в Италии, Сергей Карякин стал обладателем золотых медалей в эстафете и командных соревнованиях, а также бронзовым призером в личном первенстве.
В 2009 году дебютировал на взрослом чемпионате мира в Лондоне, где в эстафете стал серебряным призёром.
В 2010 году в китайском Чэнду стал чемпионом мира в личном зачёте. Сергей стал одним из двух спортсменов, которым удалось чисто пройти конкур и выйти в заключительный вид с лучшим результатом.