Хан родился в пуштунской семье в городе Бхопал в штате Мадхья-Прадеш в Индии в 1936 году. Когда мальчику было 11 лет, его семья перебралась в Пакистан. Учился в школе Св. Антония в Лахоре, затем в колледже Дайарама Джетмала в Карачи, специализируясь на физике и математике. В 1960 году получил диплом бакалавра Университета Карачи по специальности металловедение. В 1961 году Хан уехал в ФРГ для изучения металлургии в техническом университете и в 1967 году получает диплом инженера-металлурга, а в 1972 году стал доктором наук. Свободно владея немецким языком, свою докторскую диссертацию Хан написал по-немецки.
После этого Абдул Кадыр Хан начинает работать в физической лаборатории в Амстердаме, которая являлась подрядчиком компании URENCO, совместно созданной Западной Германией, Великобританией и Голландией для проведения строго секретных работ по обогащению урана.
В мае 1974 года Индия проводит первые испытания ядерного оружия. Абдул Кадыр Хан к тому времени занимал ответственный пост в URENCO и имел довольно высокий уровень доступа.
В конце 1975 года Хан возвращается в Пакистан, имея на руках украденные ядерные секреты. Премьер-министр Пакистана Зульфикар Али Бхутто поставил задачу создания ядерной бомбы на основе обогащенного урана. Хан получил в свое распоряжение исследовательскую лабораторию, впоследствии названную его именем. Параллельно Комиссия по атомной энергии Пакистана во главе с Муниром Ахмадом Ханом вела разработки ядерной бомбы на основе плутония. В дальнейшем обе программы были объединены, и в результате 28 мая 1998 года была испытана пакистанская ядерная бомба на основе обогащенного урана.
В феврале 2004 года, после встречи с президентом Мушаррафом, Хан выступил по национальному телевидению и признал свою вину в продаже ядерных материалов и оборудования. После этого учёный был помещён под домашний арест и полностью ограждён от контактов с зарубежными дознавателями. Сам Хан неоднократно намекал в своих интервью, что торговля ядерными материалами и оборудованием велась с ведома руководства Пакистана, в том числе, президента Мушаррафа В 2007 году Беназир Бхутто заявила, что после победы на выборах позволит иностранцам — в том числе, МАГАТЭ — допросить Хана по поводу его деятельности на ядерном чёрном рынке. Но после убийства Бхутто в конце декабря 2007 года, новое руководство Пакистанской народной партии, пришедшей к власти в ходе выборов 2008 года, не решилось разрешить зарубежным дознавателям допросить Хана.