После окончания школы поступил в военное училище, затем полтора года служил в Югославской народной армии. В 1991 году, дослужившись до капитана, дезертировал из Югославской народной армии и вступил в ряды сепаратистов Хорватской национальной гвардии (ХНГ), боровшихся за отделение Хорватии от Югославии.
Будучи в ХНГ, участвовал в этнических чистках в Хорватии. В 1993 году командовал операцией «Выжженная земля», когда бойцы ХНГ напали на Медак, Читлук и Почитель и вырезали в этих районах всех сербов. В 1995 году принимал непосредственное участие в операции по уничтожению республики Сербская Краина.
В 1998 году присоединился к Армии освобождения Косова, через 2 месяца после вступления в неё стал полковником. В её составе Агим участвовал в этнических чистках в крае.
В 1999 году после войны НАТО против Югославии был поставлен во главе корпуса защиты Косова, созданного для легализации боевиков армии освобождения Косова после вступления в край войск НАТО.
Дважды арестовывался по обвинению в геноциде сербского населения (в 2002 году в Любляне и в 2004 году в Будапеште), но оба раза оказывался на свободе благодаря помощи тогдашнего руководителя гражданской миссии ООН в Косово (УНМИК) Харри Холкери.
В марте 2006 года был назначен администрацией ООН в Косово премьер-министром после отставки прежнего премьера Байрама Косуми. Оказавшись на этом посту, Агим провозгласил своей целью отделение Косово от Сербии. 24 июля 2006 года был в Вене на переговорах делегаций Сербии и Косово о будущем статусе края.
30 ноября 2006 года посетил Россию с официальным визитом. Его приняли депутаты Государственной думы и заместитель министра иностранных дел России Владимир Титов. На встрече он заявил, что албанцы готовы предоставить сербскому меньшинству широкую автономию. Приезд Чеку в Россию вызвал протесты.
23 июня 2009 года Агим Чеку был очередной раз арестован, теперь на одном из пограничных пропускных пунктов в Болгарии по международному ордеру выданному Сербией, он разыскивался в связи с обвинениями в военных преступлениях против сербов во время косовской войны 1998—1999 годов. Сербия требовала ареста Агима Чеку с 2002 года, за это время он арестовывался трижды — в 2003 и 2004гг. в Словении и Венгрии, а также в текущем году в Колумбии, из которой был выслан, однако эти страны отпускали его, ссылаясь на положения внутреннего законодательства.