В 1896 году Ким Гу убил Цутида Дзосукэ (яп. ????), одного из участников убийства императрицы Мёнсон, после чего был задержан и подвергнут пыткам. Хотя в «Отчёте действующего администратора инчхонского совета Хагихара Мориити о текущем положении дел в Инчхоне» (????????????????????????????, 24 апреля 1896 года) говорится о том, что Цутида был «простолюдин из префектуры Нагасаки» (стр. 6, «?????????») и «рабочий торговой организации Нагасаки»(стр. 7, «???????????»), в своей автобиографии Пэк Пом Ильджи (????) Ким Гу утверждал, что Цутида носил меч и имел документы, говорящие о том, что он был лейтенантом японской армии. . Впоследствии после разгона движения 1 марта, в 1919 году, Кима Гу сослали в Шанхай. Там он участвовал в деятельности корейского Временного правительства.
В Шанхае Ким Гу присоединился к Временному правительству Кореи, боровшемуся за независимость Кореи от японцев. Был министром внутренних дел, после чего, в 1927 году, стал председателем правительства. В 1931 году он организовал патриотическую террористическую группу, Корейский патриотический легион. 29 апреля 1932 года один из её членов, Юн Бон Гиль, устроил засаду и нападение на японское военное командование в Шанхае, в результате которого командир японской армии и флота погиб на месте. 8 января того же года в Токио другой член организации, Ли Бон Чхан, совершил покушение на японского императора Хирохито. После побега в Чунцин, где обосновалось китайское Националистическое правительство Чан Кайши, Ким Гу основал Корейскую армию освобождения, поставив в главе её Чи Чхон Чхона. Когда Вторая мировая война в декабре 1941 года достигла Тихого океана, Ким Гу объявил войну Японии и Германии, после чего его Армия освобождения воевала на стороне союзных сил в Китае и Юго-Восточной Азии. В планах было также освобождение Кореи в 1945 году, однако союзные войска опередили Армию освобождения.
После японской капитуляции Ким Гу вернулся в Сеул, где стал одним из крупнейших руководителей правых сил Юга страны, который был оккупирован американскими войсками. Ким Гу крайне негативно относился к режиму Ким Ир Сена, который был приведён к власти на севере, находившимся под советской оккупацией, и жестоко подавлял коммунистическое движение в южной части страны, но был готов на компромиссы во имя сохранения единства Кореи.
Когда разделение страны стало неизбежным, Ким Гу посетил Пхеньян для переговоров с правительством Ким Ир Сена (позднее ставшим президентом Северной Кореи). Эти переговоры не увенчались успехом.
В 1948 году Парламент Южной Кореи выдвинул Кима Гу на пост первого президента молодого государства, однако на тех выборах с большим перевесом победил Ли Сын Ман, первый председатель Временного правительства. Ким Гу также проиграл выборы вице-президента Ли Си Ёну.
В 1949 году офицер южнокорейской армии Ан Ду Хи убил Кима Гу в его рабочем кабинете. Были подозрения, что это убийство было организовано президентом Ли Сын Маном, однако детали убийства неизвестны. Более того, сам Ан Ду Хи был убит одним из сторонников Кима Гу в 1956 году после дачи последним показаний, уличавших Ким Чхан Рёна в заказе покушения.