Андрей Николаевич Тихонов родился 30 октября 1906 года в городе Гжатске Смоленской губернии. Семья Тихоновых состояла из 4 человек. Отец Николай Васильевич Тихонов занимался торговлей, его жена Мария Николаевна и два сына — старший Николай, родившийся в 1905 году и младший Андрей. В 1910 году семья переехала в Москву.
До революции дети Тихоновых учились в гимназии, а в годы Гражданской войны семья переехала на Украину.
В 1919 году Тихоновы вернулись в Москву. Андрей в 13 лет начал работать конторщиком Агрономической службы Александровской (Белорусско-Балтийской) железной дороги. В 1922 году он сдаёт экзамены по программе рабочих факультетов на вечерних общеобразовательных курсах. Тогда же он начинает готовиться к поступлению в ВУЗ и в том же году в возрасте 16 лет поступает на физико-математический факультет Московского университета (1-й МГУ).
В 1927 году А. Н. Тихонов заканчивает математическое отделение физико-математического факультета МГУ, затем аспирантуру Научно-исследовательского института математики при МГУ и остаётся преподавать в Университете.
С 1929 года — сотрудник Геофизического института (ныне Институт физики Земли им. О. Ю. Шмидта РАН), а вскоре — заведующий отделом математической геофизики, где проработал до 1956 года.
В 1933 году после прошедшей в МГУ реорганизации, в ходе которой физико-математический факультет разделяется на механико-математический и физический факультет, Андрей Николаевич направляется на вновь организованную кафедру математики физического факультета. В то же время он зачисляется на должность учёного специалиста в Геофизический институт.
В 1936 году защищает докторскую диссертацию на тему «О функциональных уравнениях типа Вольтерра и их приложениях к уравнениям математической физики». В этом же году становится профессором МГУ и заведующим кафедрой математики на физическом факультете.
В 1937 году также начинает работать в только что созданном О. Ю. Шмидтом Институте теоретической геофизики АН СССР.
29 января 1939 года в возрасте 33 лет А. Н. Тихонов избран членом-корреспондентом Академии наук СССР в отделение математических и естественных наук по специальности «Геофизика, математическая физика».
С 1953 года работает заместителем директора Института прикладной математики АН СССР.
В 1953 году А. Н. Тихонов становится лауреатом Сталинской премии.
В 1955 году подписал «письмо трёхсот».
В 1960 году становится заведующим кафедрой вычислительной математики механико-математического факультета МГУ.
1 июля 1966 года избран академиком АН СССР в отделение математики по специальности «Математика».
В 1970 по инициативе А. Н. Тихонова и при активной поддержке М. В. Келдыша создаётся факультет вычислительной математики и кибернетики МГУ. Андрей Николаевич становится его первым деканом и возглавляет факультет до 1990 года. С момента создания нового факультета Тихонов также заведует кафедрой вычислительной математики, а с 1981 года — кафедрой математической физики факультета ВМК МГУ.
В 1978 году, после смерти М. В. Келдыша, Тихонов назначается директором Института прикладной математики АН СССР, а в 1989 году — почетным директором ИПМ РАН. Являлся членом редколлегий журнала «Доклады РАН», и «Журнала вычислительной математики и математической физики», членом редакционного совета журнала «Успехи математических наук».
Андрей Николаевич Тихонов умер вечером 7 октября 1993 года в Москве. Похоронен на Новодевичьем кладбище.
Первые работы Андрея Николаевича, сделанные в студенческие годы, посвящены топологии (теорема Тихонова)и функциональному анализу. В частности Тихоновым в 1926 году было введено понятие произведения топологических пространств — так называемое «тихоновское произведение», доказаны теоремы о бикомпактности произведения бикомпактных пространств и о существовании неподвижной точки при непрерывных отображениях в топологических пространствах.
Фундаментальные результаты были получены им в области математической физики, теоретической геофизики, моделирования физико-химических процессов. А. Н. Тихоновым доказаны теоремы единственности для уравнения теплопроводности, изучены функциональные уравнения типа Вольтерра (1938).
В 1948 году по распоряжению правительства А. Н. Тихонов организовал Вычислительную Лабораторию для расчёта процесса взрыва атомной бомбы. Он также выполнил фундаментальные исследования по разработке теории и методике применения электромагнитных полей для изучения внутреннего строения земной коры (теория магнитотеллурического зондирования, 1950).
А. Н. Тихонов — основоположник крупного направления в асимптотическом анализе — теории дифференциальных уравнений с малым параметром при старшей производной.
Под руководством Тихонова созданы алгоритмы решения многих прикладных задач. В 1956—1963 годах совместно с Александром Андреевичем Самарским развита теория однородных разностных схем.
Работа над проблемами поиска полезных ископаемых привела А. Н. Тихонова к концепции обратных и некорректных задач, к разработке методов регуляризации, тем самым к созданию крупного научного направления, получившего мировое признание. Введённое Тихоновым понятие регуляризации позволило разработать методы решения некорректных задач. Это научное направление он развивал на протяжении всей жизни.
А. Н. Тихонов — автор и соавтор более 500 публикаций (статей, учебников и монографий). В их числе: