В 1972 закончил Свердловский юридический институт.
В 1972—1982 работал в прокуратуре города Бийска, в 1982—1986 — в прокуратуре города Барнаула.
С 1986 — старший прокурор управления Прокуратуры СССР, в 1989—1990 — помощник Генерального прокурора СССР по особым поручениям, в 1991—1992 — заместитель начальника управления - начальник отдела по надзору за законностью во внешнеэкономической деятельности, с 1992 — начальник отдела управления, начальник Управления по обеспечению участия прокуроров в арбитражном процессе Генпрокуратуры РФ.
В 2000—2004 работал в Министерстве юстиции РФ (28 апреля 2000 — статс-секретарь — замминистра юстиции РФ, 2002 — первый замминистра юстиции.
В 2004—2005 — начальник управления Администрации Президента Президента РФ по вопросам государственной службы; с этой должности предложен Владимиром Путиным на должность главы администрации Алтайского края, после того, как 7 августа того же года в автомобильной катастрофе погиб глава администрации края Михаил Евдокимов.
25 августа 2005 года утверждён на посту главы администрации Алтайского края Алтайским краевым Советом народных депутатов; в тот же день принёс присягу и вступил в должность.
18 июля 2009 года Президент Дмитрий Медведев внес на рассмотрение Алтайского краевого Законодательного Собрания предложение продлить срок полномочий Карлина.
25 августа 2009 года Карлин официально вступил в должность губернатора.
Доктор юридических наук, профессор. Действительный государственный советник первого класса. Заслуженный юрист РФ. Почетный работник органов прокуратуры, юстиции. Член редколлегий журналов «Законность» и «Прокурорская и следственная практика».