Сын Евгения Александровича Яковлева. В 1905—1913 учился в Академии художеств (в частности, у Д. Н. Кардовского), сдружившись в эти годы с В. И. Шухаевым, который стал как бы его творческим alter ego.
Сотрудничал в журналах «Сатирикон» и «Новый Сатирикон» (1909—1918).
Был членом «Мира искусства» (с 1912).
В 1913 вместе с Шухаевым побывал в Испании, 1914—1915 путешествовал по Италии. В 1917—1919 побывал в Монголии, Китае, Японии. C 1920 жил во Франции. Кроме живописи и преподавания (среди прочего, в 1934—1937 преподавал в Бостоне), занимался книжной иллюстрацией.
Александр Евгеньевич Яковлев скончался 12 мая 1938 года в Париже.