Родился 29 октября 1951 года в селе Медведка Тюменцевского района Алтайского края.
Окончил Свердловский юридический институт в 1972 году.
После окончания института работал в прокуратуре города Бийска Алтайского края следователем, старшим следователем прокуратуры.
С 1974 года - помощник прокурора Бийска, в 1977-1982 годах - заместитель прокурора Приобского района Бийска.
В 1982-1983 годах - заместитель прокурора города Барнаула Алтайского края.
С 1983 года - начальник отдела прокуратуры Алтайского края.
С 1986 года - старший прокурор управления Прокуратуры СССР.
В 1989-1990 годах - помощник Генерального прокурора СССР по особым поручениям, затем заместитель начальника управления Прокуратуры СССР.
С февраля 1992 года - начальник отдела управления Генеральной прокуратуры РФ.
В 1993 году назначен заместителем начальника управления Генпрокуратуры РФ, в 1994 - начальником отдела, в 1996 году - начальником Управления по обеспечению участия прокуроров в арбитражном процессе Генпрокуратуры РФ.
С 28 апреля 2000 года - статс-секретарь - первый заместитель министра юстиции РФ.
С 2002 года - первый заместитель министра юстиции РФ.
В апреле 2004 года назначен Начальником Управления Президента РФ по вопросам государственной службы.
18 августа 2005 года Президент РФ внес кандидатуру Александра Карлина для наделения его полномочиями главы администрации Алтайского края.
25 августа 2005 года Алтайским краевым Советом народных депутатов избран главой администрации Алтайского края.
Кандидат юридических наук, профессор. Член-корреспондент РАЕН.
Заслуженный юрист РФ. Почетный работник органов прокуратуры. Член редколлегий журналов "Законность", "Прокурорская и следственная практика".
Государственный советник юстиции 2-го класса.
Женат, имеет двух сыновей.