Семён Харламов родился 30 апреля 1921 года в посёлке Красный Кут Саратовской области, в семье рабочего. Окончил в Красном Куте 8 классов средней школы. На службе в Красной Армии с 1939 года. Поступил в Качинскую авиашколу, окончил её в 1942 году (по иронии судьбы оканчивал авиашколу он в Красном Куте, куда была эвакуирована авиашкола). С мая 1942 года участвует в боевых действиях. Первоначально служил в 45-м истребительном авиаполку, позднее был переведён в 5-й Гвардейский ИАП. В 1944 году вёл бои в уже в составе 249-го ИАП (позднее полк станет 163-м Гвардейским).
После окончания Великой отечественной Семён Ильич женился на лётчице Надежде Васильевне Поповой.
Семён Ильич Харламов был награждён орденами Ленина, Октябрьской Революции, Красного Знамени (пять раз), Александра Невского, Отечественной войны 1-й и 2 степеней, Красной Звезды (дважды), медалями.