По окончании в 1908 году Токийской музыкальной академии, учился в Берлинской высшей музыкальной школе у К. Вольфа и М. Бруха.
Возвратившись в 1914 году в Токио, организовал первый в Японии симфонический оркестр, а в 1925 году основал Японское филармоническое общество.
Автор сочинений во всех основных жанрах европейской музыки — шести опер, в том числе «Аладдина и Паломид» (1913), «Чёрные корабли» (1939), «Рассвет» (1940), двух кантат, двух симфонических поэм, сюит «Бонно-Кору» (1931) и «Рассвет на Востоке» (1941), симфонии (1914), камерных инструментальных произведений, хоров и песен, Ямада стал одним из зачинателей нового направления музыкального искусства в Японии.
Первый дирижёр, выступавший за границей с исполнением японской музыки, в том числе обработок японских народных песен.
В 1930-е годы гастролировал в СССР и США.
Профессор Токийской музыкальной академии, с 1957 года — член Японской академии искусств.