После окончания средней школы поступил в Украинский институт инженеров водного хозяйства, который окончил в 1977 году. В 1977—1981 годах работал мастером на Ровенской атомной электростанции.
В 1981 году призван на службу, из запаса, в Советскую Армию в звании лейтенанта. С 1981 года служил в строительных частях Среднеазиатского военного округа на строительстве объектов РВСН СССР в районе города Балхаш в Казахской ССР. Занимал должности производителя работ, начальника строительно-монтажного участка (сму), главного инженера — заместителя начальника управления инженерных работ (уир). Три воинских звания присвоенны досрочно.
С 1986 года служил в Закавказском военном округе на должности начальника управления инженерных работ Главного управления специального строительства Министерства обороны СССР (ГУСС МО СССР). Руководил строительством станции раннего предупреждения РВСН в Габале (Габалинская РЛС).
Активный участник ликвидации последствий землетрясения в Армении 1988 года и восстановительно-строительных работ в зоне землетрясения.
С 1991 года — заместитель командующего войсками Приволжско-Уральского военного округа по строительству и расквартированию. С июля 1992 года — заместитель командующего войсками Приволжского военного округа по строительству и расквартированию. С 1994 года — начальник Главного управления специального строительства (ГУСС) Министерства обороны Российской Федерации.
Окончил Высшие академические курсы при Военной академии Генерального Штаба Вооружённых сил Российской Федерации в 1998 году.
С августа 2000 года — заместитель начальника строительства и расквартирования войск Министерства обороны Российской Федерации. Курировал вопросы строительства военных объектов на территории Чеченской республики, только в 2001 году провел в командировках в Чеченской республике свыше 8 месяцев. С марта 2003 года — начальник строительства и расквартирования войск — заместитель Министра обороны Российской Федерации. С апреля 2004 года — начальник Службы расквартирования и обустройства Министерства обороны Российской Федерации. Воинское звание генерал армии присвоено указом Президента Российской Федерации В. В. Путина от 12 июня 2006 года.
В ноябре 2007 года внезапно освобождён от должности и уволен в запас с военной службы в возрасте 52 лет (единственный подобный случай в истории Российской Федерации). В прессе строились предположения о причастности А. В. Гребенюка к ряду коррупционных скандалов, но никакой информации о привлечении его к ответственности или о наличии уголовных дел в его отношении не появилось.
В январе 2009 года назначен старшим вице-президентом госкорпорации Олимпстрой. В 2010 году уволен из госкорпорации Олимпстрой.
Женат, имеет двоих сыновей.