Родился в 1926 году, на Вашингтон-Хейтс, в Нью-Йорке, в семье евреев-выходцев из Германии и Польши — Герберта Гринспена и Роуз Голдсмит. Его родители развелись вскоре после рождения. Отец, Герберт, переехал в Бруклин, а Алан остался с матерью Роуз. Алан стал воспитываться в большой семье из родственников матери (она была младшей из 5 братьев и сестёр) Голдсмитов. Дядя Алана Мюррей был пианистом и под именем Марио Силва принимал участие в создании бродвейского мюзикла Song of Love, по которому позже был поставлен одноимённый голливудский фильм (англ.) с Кэтрин Хепбёрн и Полом Хенрейдом. Знакомство с ним возбудило интерес к музыке в Алане: он начал играть на кларнете. Также в детстве Алан увлекался арифметикой, его даже выставляли как счётчика на публике. Был среди его увлечений и спорт — он играл в бейсбол и любил следить за статистикой игроков.
На становление Алана как экономиста могла повлиять книга «Recovery Ahead!», написанная его отцом в 1935 году и посвящённая Алану.
Алан Гринспен учился в George Washington High School с 1940 по 1943, где учился вместе с Джоном Кемени, который впоследствии стал помощником А. Эйнштейна и изобрёл язык BASIC вместе с Томасом Курцем. В этой школе в 1942 году Алан стал профессиональным музыкантом в группе из 6 человек под руководством Bill Sheiner. После окончания школы Алан прекратил обучение и продолжил зарабатывать на жизнь выступлениями. Среди его коллег был известный впоследствии джазмен Стенли Гетц, от общения с которым Алан значительно усовершенствовал свою игру на саксофоне. В это время у него нашли какое-то образование в лёгких, из-за которого его признали негодным к военной службе, оказавшееся впрочем неопасным. Потом Алан перешёл в оркестр Henry Jerome, который не завоевал непреходящей славы, однако имел несколько известных участников: Джонни Мандел () (тромбонист, автор песни «The Shadow of Your Smile» и музыки к сериалу M*A*S*H), Стэн Леви () (ударник, играл с Чарли Паркером), Ларри Риверс, Ленни Гармент (адвокат Р. Никсона).
Во время перерывов между выступлениями, Алан Гринспен выделялся тем, что читал книги совсем далёкие от музыки — например, о легендах Уолл-стрита Джесси Ливерморе и Дж. П. Моргане.
Осенью 1945 года поступил в «School of Commerce, Accounts and Finance» при Нью-Йоркском университете, где учился экономике в том числе по книге «Общая теория занятости, процента и денег» Дж. М. Кейнса. После этой школы переход в Нью-Йоркский университет был чистой формальностью, там он в 1948 получил степень бакалавра. В 1950 получил степень магистра экономики. Он начал подготовку к PhD в Колумбийском университете, однако получил степень только в 1970-х.
В октябре 1952 года он женился на Джоан Митчел, историке искусства из Виннипега, Манитоба; однако прожили вместе только около года. Алан Гринспен был активным участником кружка Айн Рэнд, что добавило философских взглядов к его математическому уму. Необходимо уточнить, что политика Гринспена на посту председателя ФРС, абсолютно чужда и противоположна философии объективизма Рэнд.
В 1954 вместе с Вильямом Таунсендом основал консалтинговую компанию «Таунсенд-Гринспен». Среди прочего предсказал спад в экономике США в 1958 году.
В 1974—1977 — Председатель Совета экономических консультантов при Президенте США.
В 1981—1983 — Председатель Национальной комиссии по реформе системы социального страхования.
В 1987 назначен Председателем Совета управляющих ФРС после отставки Пола Волкера.