Родился в семье еврея-торговца Самуила Михельзона в польской части Прусского королевства. Когда мальчику было два года, его родители эмигрировали в США, где их фамилия стала произноситься как «Майкельсон».
В 1869 году Майкельсон приступил к обучению в Военно-морской академии США в Аннаполисе. В 1873 году завершил обучение. С самого начала своего обучения Майкельсон очень интересовался наукой и в особенности проблемой измерения скорости света. После продолжения, в течение двух лет, обучения в Европе, он уходит с военной службы. В 1883 году становится профессором физики в школе прикладных наук в Кливленде и сосредотачивается на разработке улучшенного интерферометра.
После 1889 года работает профессором в Университете Кларка в Ворчестере. В 1892 году становится профессором и руководителем физического отделения новооснованного Чикагского университета. В 1907 году Майкельсон становится первым американцем, получившим Нобелевскую премию по физике. В этом же году за выдающиеся достижения в экспериментальной физике Майкельсон получил также медаль Копли.
Уже в 1877 году, в бытность свою офицером ВМС США, Майкельсон начинает усовершенствовать метод измерения скорости света при помощи вращающегося зеркала, предложенного Леоном Фуко. Идеей Майкельсона было применить лучшую оптику и более длинную дистанцию. В 1878 году он произвёл первые измерения на довольно кустарной установке. Эта работа привлекла внимание Симона Ньюкомба — директора Nautical Almanac Office, который также планировал заняться подобными экспериментами. Майкельсон опубликовал свой результат 299 910±50 км/с в 1879 году После этого он переехал в Вашингтон (США), чтобы помочь в проведении опытов Симона Ньюкомба. Так началась дружба и сотрудничество между двумя учёными.
Ньюкомб получил в своих опытах, которые лучше финансировались, значение скорости света 299 860±30 км/с, которое совпадало в пределах ошибок измерений со значением Майкельсона. Майкельсон и далее усовершенствовал свой метод; он опубликовал в 1883 году значение 299 853±60 км/с.
В 1906 году Е. Б. Роза и Н. Е. Дорси измерили скорость света при помощи нового, электрического метода. В их экспериментах они получили значение 299 781±10 км/с.
После 1920 года Майкельсон приступил к «финальному» измерению скорости света в обсерватории Маунт-Вильсон, причём базой для измерения служила дистанция длиной 22 мили — до горы Лукаут, находящейся на южной стороне горы Сан-Антонио.
В 1922 году береговая и геодезическая комиссия США приступила к тщательному измерению этой дистанции при помощи недавно изобретённых инвар-лент, которое длилось два года. В 1924 году, когда длина была измерена с точностью 10?6, приступили к измерению скорости света, которое тоже длилось два года и дало значение скорости света 299 796±4 км/с.
Этот знаменитый эксперимент известен также проблемами, возникавшими при его проведении. Например большой проблемой были лесные пожары, дым от которых приводил к помутнению зеркал. Также вполне возможно, что в геодезические измерения, проведённые с такой огромной точностью, была внесена ошибка за счёт смещения базы, произошедшего при землетрясении в Санта-Барбаре, произошедшем 29 июня 1925 года и имевшем магнитуду 6,3 балла по шкале Рихтера.
После 1927 года появилось множество измерений скорости света при помощи новых, электро-оптических методов, которые дали существенно меньшие значения скорости света, чем определённое Майкельсоном оптическим методом в 1926 году.
Майкельсон продолжал искать метод измерения, который бы исключил влияние атмосферных возмущений. В 1930 году он приступил, совместно с Фрэнсисом Пизом и Фредом Пирсоном, к измерению скорости света в вакуумированных трубах длиной 1,6 км. Майкельсон умер после 36-го из всего 233 проведённых измерений. Проведению эксперимента мешали в основном геологические нестабильности и конденсация в трубах. В конце концов, эксперименты дали значение 299 774±11 км/с, совпадавшее с результатами электро-оптических методов.
В 1881 году Майкельсон провёл физический опыт (опыт Майкельсона) на своём интерферометре с целью измерения зависимости скорости света от движения Земли. Результат эксперимента был отрицательный — скорость света никак не зависела от скорости движения Земли и от направления измеряемой скорости.
В 1887 году Майкельсон, совместно с Э. У. Морли, провёл эксперимент, известный как эксперимент Майкельсона-Морли. В этом эксперименте определялась скорость движения Земли относительно эфира. Вопреки ожиданию, в эксперименте (как и в его более поздних и более прецизионных модификациях, проводящихся до настоящего времени) не обнаружилось движения Земли относительно эфира. Эйнштейн в своей первой статье по теории относительности упоминает «неудавшиеся попытки обнаружить движение Земли относительно „светоносной среды“» и на этой основе строит новую универсальную кинематику (уже не только для электромагнитных явлений). Опыт Майкельсона стал основанием и первым экспериментальным подтверждением теории относительности.
В 1920 году Майкельсон провёл эксперимент по измерению углового размера звёзд. Для этого он использовал интерферометр с длиной плеч 6 м. Свет от интерферометра посылался при помощи зеркал на вход 254-сантиметрового телескопа. В телескопе при этом наблюдалась система полос. При удлинении плеч интерферометра полосы исчезали. Из расстояния между зеркалами интерферометра можно было определить угловой размер звезды, а при известном расстоянии до звезды — также её диаметр. Майкельсон определил таким образом диаметр звезды Бетельгейзе.