Андрей Глухов начал заниматься на валторне в возрасте 11 лет в Средней специальной музыкальной школе Ленинградской консерватории под руководством Михаила Буяновского. После его смерти руководить занятиями продолжил его сын Виталий Буяновский. По классу Виталия Буяновского Глухов и окончил школу в 1968 году. В 1975 году он окончил Ленинградскую консерваторию также по классу Буяновского. С 1974 года Андрей Глухов — солист Заслуженного коллектива России академического симфонического оркестра Ленинградской филармонии. В 1976 году он стал лауреатом второй премии международного конкурса исполнителей в Женеве. В 1982 году ему было присвоено звание заслуженный артист РСФСР, а в 1996 — народный артист России. Глухов являлся членом Международного общества валторнистов.
Умер 8 августа 2011 в Санкт Петербурге.