Родился 22 января (официально — 10 февраля) 1952 в селе Полудино Полудинского района Северо-Казахстанской области. Является слепым от рождения.
В 1970 году окончил с отличием музыкальную школу Омска по классу баяна. С золотой медалью окончил омскую специальную школу для слепых и слабовидящих детей.
Поступил на исторический факультет Омского государственного педагогического института имени А. М. Горького. В 1974 году окончил вуз, получив диплом с отличием. С 1974 по 1976 год работал преподавателем в Омской школе рабочей молодёжи. С 1976 года работает ассистентом в Омском государственном педагогическом институте. В 1976—1991 годах — член КПСС.
1 декабря 1979 года избран старшим преподавателем Омского государственного педагогического института. 1 ноября 1981 года — 1 ноября 1982 года прикомандирован в аспирантуру УрГУ.
В 1982 году защитил кандидатскую диссертацию «Культурная революция как фактор формирования социалистического образа жизни» по специальности «философия» в Уральском госуниверситете. 30 марта 1984 года избран доцентом Омского государственного педагогического института.
В 1989—1991 годах член реформистского партклуба в Омске. 18 марта 1990 года избран депутатом Съезда народных депутатов РСФСР. Член фракции «Россия».
С 1 сентября 1992 года — член Комитета по науке и народному образованию ВС РСФСР на постоянной основе. 12 декабря 1993 года Избран депутатом Совета Федерации Федерального Собрания РФ. 1 марта 1994 года избран председателем подкомитета по образованию и подготовке кадров Комитета Совета Федерации по вопросам науки, культуры и образованию.
17 декабря 1995 года избран депутатом Государственной Думы второго созыва. Член депутатской группы «Народовластие». 23 января 1996 года избран заместителем председателя Комитета Государственной Думы второго созыва по образованию и науке. 1 февраля 1996 года избран председателем подкомитета по образованию.
19 декабря 1999 года избран депутатом Государственной Думы третьего созыва. Член Агропромышленной депутатской группы. 24 января 2000 года избран заместителем председателя Комитета Государственной Думы по образованию и науке.
В 2001 году защитил докторскую диссертацию по теме «Социально-философские аспекты государственной образовательной политики в условиях радикальной трансформации российского общества» в МГПУ.
В Госдуме занимался проблемами образования, был разработчиком таких базовых для системы образования законов, как Закон «Об образовании», Закон «О высшем и послевузовском профессиональном образовании», «Об утверждении федеральной программы развития образования», а также Национальной доктрины образования в Российской Федерации, одобренной Всероссийским совещанием работников образования в Кремле 15 января 2000 года.
12 сентября 2001 года избран председателем правления Омского регионального отделения Народно-патриотического союза России (НПСР).
7 декабря 2003 года избран депутатом Государственной Думы четвертого созыва. Член фракции КПРФ. 16 января 2004 года избран первым заместителем председателя Комитета по образованию и науке Государственной Думы.
23 апреля 2004 года избран членом-корреспондентом РАО.
2 декабря 2007 года избран депутатом Государственной Думы 5 созыва от Коммунистической партии Российской Федерации. В январе 2008 года стал заместителем председателя Комитета Государственной Думы по образованию
26 февраля 2009 года избран президентом общества «Знание». В сентябре 2009 года Смолин подвергся ограблению. Представители КПРФ не исключали политических причин ограбления.
Профессор, академик Академии гуманитарных наук и Академии педагогических и социальных наук. Автор более 700 научных, научно-публицистических и публицистических работ, в том числе 7 авторских книг; соавтор 4 книг.
Первый вице-президент Паралимпийского комитета России, вице-президент Всероссийского общества слепых (ВОС), почётный член Всероссийского общества инвалидов.
Женат. Имеет сына и внука.
Является действительным членом Академии гуманитарных наук, Международной педагогической академии, Академии педагогических и социальных наук, членом-корреспондентом Российской академии образования, Международной академии общественных наук.