В 1947—1957 годах Леонид Аркаев учится в московской средней школе № 399. По её окончании поступает в Московский инженерно-строительный институт имени В. В. Куйбышева, который оканчивает в 1966 году.
В 1977 году окончил Московский областной институт физической культуры. В 1995 году защищает кандидатскую диссертацию в Институте имени Лесгафта.
Спортивной гимнастикой гимнастикой занимается с 13 лет. В 1957 году участвует в Спартакиаде школьников СССР (Рига). С 1958 года мастера спорта СССР. С 1959 года член сборной СССР.
Л. Аркаев — многократный чемпион Москвы, двукратный чемпион Спартакиады народов СССР в составе команды города Москвы, обладатель серебряной медали на чемпионате СССР в упражнении на перекладине. Запасной участник чемпионата мира 1966 года в Дортмунде.
С 1973 года работает старшим тренером мужской сборной СССР по спортивной гимнастике.
С 1986 до 1991 г. Л. Аркаев занимал должность начальника Управления гимнастики Госкомспорта СССР.
С 1992 года Леонид Яковлевич Аркаев главный тренер мужской и женской сборных России по гимнастике, избран президентом Федерации спортивной гимнастики России. Работал в этих должностях до декабря 2004 г.
Возглавлял команду на семи Олимпиадах и добился выдающихся результатов:
В конце декабря 2005 переехал в Корею, где работал главным тренером женской команды и консультантом - мужской. После того, как его контракт с южнокорейской сборной закончился, из всех предложений, в том числе и зарубежных, Аркаев выбрал предложение поучаствовать в становлении спортивной гимнастики в Мордовии, где и и работает в настоящее время в Специализированной детско-юношеской спортивной школе по гимнастике.
Отец — Аркаев Яков Николаевич (1911—1943). Мать — Аркаева Анастасия Петровна (1911—2000). Супруга — Аркаева Людмила Евгеньевна (1941 г. рожд.). Дочери: Екатерина Леонидовна (1965 г. рожд.), Ксения Леонидовна (1975 г. рожд.). Внуки: Никита, Максим, Елизавета, Анастасия, Клим, Петр, Иван.
Родители Леонида Аркаева родом из мордовской деревни Сайгуши. После переехали в Щелково и работали на химическом заводе. В 1943 году Яков Николаевич добровольцем уходит на фронт; в том же году в одном из боев в Харьковской области он погибает. До 1944 года Анастасия Петровна с детьми находилась в эвакуации в Мордовии.
Заслуженный тренер СССР и России. Награждён орденами Ленина, Трудового Красного Знамени, Дружбы народов, «Знак Почета», «За заслуги перед Отечеством» II и III степени, Серебряным олимпийским орденом. Кандидат педагогических наук, профессор, член-корреспондент Петровской академии наук и искусств. Неоднократно включался Федерацией спортивных журналистов России в список лучших тренеров года.