Футбольную карьеру начал в клубе «Вележ» в 1971 году. Отыграл за клуб 10 сезонов, и провёл за него более 100 голов. В возрасте 28-ти лет Халилходжич перешёл во французский «Нант», в составе которого провёл 5 сезонов, дважды становясь за это время лучшим бомбардиром французского чемпионата, и завоевав в его составе звание чемпиона Франции. После «Нанта», Халилходжич провёл один сезон в «Пари Сен-Жермен» и в 1987 году в возрасте 34 лет завершил карьеру футболиста.
Выступая за молодёжную сборную Югославии, Халилходжич завоевал золото молодёжного чемпионата Европы в 1978 году. В составе взрослой сборной Югославии Вахид Халилходжич провёл 15 матчей и забил в них 8 мячей. Принимал участие в ЧЕ-1976 и ЧМ-1982.
Большую часть своей тренерской карьеры Халилходжич провёл во Франции, тренируя в частности такие клубы как «Лилль», «Ренн» и «Пари Сен-Жермен», кроме того имеет опыт работы с турецкими, африканскими и ближневосточными клубами. С 2008 по 2010 годы руководил сборной Кот-д’Ивуара, в том числе его контракт с ивуарийцами предполагал, что он будет руководить ими на ЧМ-2010 в Южной Африке, но после неудачного выступления на Кубке Африки 2010 контракт с ним был расторгнут. С августа 2010 года по май 2011 года Халилходжич руководил клубом «Динамо» из Загреба.