Горо Ямагути был младшим сыном в семье традиционных японских музыкантов. Его отец — Сиро Ямагути — был хорошим исполнителем на сякухати, а мать хорошо играла на кото и сямисэне. Ожидалось, что семейную традицию продолжит старший сын, поэтому младший Горо не поощрялся к занятиям музыкой. Однако, однажды в возрасте 11 лет Горо попробовал поиграть на одной из флейт отца, после чего его мать попыталась убедить отца преподавать Горо основы игры. Отец, воспитанный в духе традиционализма, отказался. После этого отказа мать Горо заставила одного из учеников своего мужа научить играть на сякухати Горо в тайне от отца. Несколько месяцев спустя отец, поняв способности сына, согласился обучать его.
Уроки проходили в духе старой самурайской традиции. По воспоминаниям Горо Ямагути, трудность представляли не столько детали игры, сколько манера преподавания — отец никогда не останавливался и не повторял одну и ту же композицию дважды. Его отец говорил: «Всегда используй свои уши», «мироощущение важнее, когда ты хочешь чему-то научится», «ловкость рук не имеет значения, Не становись как карликовое дерево в горшке!»
После войны Горо Ямагути был уже одним из лучших исполнителей и учителей сякухати в Японии. Среди его наград есть следующие:
В 1967 году Горо Ямагути преподавал в университете Веслейан США и до самой смерти был профессором Департамента сякухати Токийского университета искусств. Он был постоянно востребован как аккомпаниатор традиционной японской музыки и передачи о нём постоянно выходили в эфир по радио и телевидению.
Ямагути был лишён амбиций, не стремился к публичности, однако влияние его и его музыки на мир было велико. Однажды он подвёл итог своей карьере словами стихотворения Санеацу Мусакодзи: «Люди могут смотреть на меня, или не смотреть. Я по-прежнему цвету».
Ещё при жизни Ямагути получил титул Живого национального сокровища Японии.
Одна из композиций с первого альбома «Звон колокольчика в пустом небе» — пьеса Цуру но Сугомори (Гнездование журавля) была записана на золотой диск в числе прочих композиций и отправлена НАСА на корабле Вояджер в космос.