Александр Орлов родился в Смоленске в семье священнослужителя.
В 1894—1898 годах он учился в Воронежской классической гимназии. В 1898—1902 годах — на физико-математическом факультете Петербургского университета. В 1901 и 1906—1907 годах работал в Пулковской обсерватории.
В 1903—1904 годах Александр Орлов слушал лекции в Сорбоннском университете, в 1905 году стажировался в Германии (Гёттинген) и Швеции. В том же году поступил в Астрономическую обсерваторию Юрьевского университета. В 1910 году Орлов защитил в Петербургском университете магистерскую, а в 1915 — докторскую диссертацию на тему «Результаты наблюдений над лунно-солнечными деформации Земли». В 1913—1934 годах — профессор Одесского университета и директор астрономической обсерватории университета, в 1926—1934 и 1938—1951 — директор Полтавской гравиметрической обсерватории, в 1934—1938 годах работал в Государственном астрономическом институте имени Штернберга, в 1944—1949 и 1951—1952 — директор Главной астрономической обсерватории АН УССР.
Александр Орлов был женат, у него 6 детей.
Александр Яковлевич Орлов умер и похоронен в Киеве на Лукьяновском кладбище Киева под № 8.
Занимался теоретической астрономией, сейсмометрией, гравиметрией и магнетометрией. Разработал новые методы гравиметрии, создал гравиметрические карты Украины, Европейской части России, Сибири и Алтая и связал их в единую сеть. Занимался исследованиями годового и свободного движения мгновенной оси вращения Земли, получил наиболее точные данные о движении полюсов Земли. Изучал влияние Луны на уровень моря, скорость и направление ветра.
Активно занимался организационно-научной деятельностью, много сделал для развития астрономии на Украине, Был главным инициатором создания Полтавской гравиметрической обсерватории и Главной астрономической обсерватории АН УССР.