Когда Арнульф унаследовал графство после смерти его деда Арнульфа I Фландрского в 965 году, он был ещё малолетним ребёнком. Его отец, Бодуэн III, умер раньше него, в 962 году, когда Арнульфу было не более года. Арнульф I передал часть Пикардии королю Западно-Франкского государства Лотарю, чтобы обеспечить право своего внука Арнульфа II на преемственность во Фландрии. Король Лотарь также взял на себя опеку несовершеннолетнего Арнульфа II. Ещё до своей смерти дед Арнульфа, Арнульф I, пообещал, что юный граф не будет контролировать фламандских дворян в ущерб их интересам.
В 965 году Булонь, Гин и Сен-Поль были захвачены графом де Понтье. С целью отвоевания этих земель Арнульф II обратился за помощью к датским викингам. По легенде, во главе датских наёмников стояли Кнут Гормссон, брат короля Харальда I, и его двоюродный брат Зигфрид Датчанин. Военная кампания увенчалась успехом. В качестве благодарности Арнульф отдал в жёны Зигфриду Датчанину свою сестру Эльструду Гентскую и пожаловал ему в наследственное владение графство Гин в качестве лена Фландрии. После этого графство стало зависимым от Фландрии.
К тому времени, когда в 976 году Арнульф достиг совершеннолетия, графство Фландрия утратила некоторые южные территории, приобретённые Арнульфом I. Арнульф II не смог вернуть власть над Остреваном, Артуа, Понтье и Амьеном. Ещё ранее король Лотарь попытался воспользоваться малолетством Арнульфа и попытался захватить Фландрию, вторгнувшись в неё. Король смог захватить Теруан, Сен-Поль, Дуэ и Аррас, но после вмешательства императора Оттона I, призванного обеспокоенным епископом Камбре и Арраса, был вынужден отступить и потерял захваченные земли, однако оставив за собой множество разрушений. Также Лотарь подчинил себе графство Понтье и передал его Гуго Капету. Графство Булонь было отдано в лен сыну Адалульфа, брата Арнульфа I и сына Бодуэна II, Арнульфу.
После смерти короля Людовика V Ленивого граф Фландрии поддержал мятеж против Гуго Капета герцога Нижней Лотарингии Карла I, герцога Нижней Лотарингии, претендовавшего на трон Франции. В ответ Гуго Капет вторгся во Фландрию и осадил Лис и Аррас, вынудив графа бежать в Нормандию. Вскоре Гуго Капет снял осаду. Долгое время считалось, что этим графом был Арнульф, поскольку считалось, что он умер в 988 году. Однако сейчас установлено, что Арнульф умер 30 марта 987 года, то есть раньше Людовика, умершего 22 мая 987 года, поэтому это известие никак не может относиться к нему.
Когда Арнульф II умер в 987 году его сыну и преемнику Бодуэну IV было только 7 лет. Арнульф был похоронен в Генте. Его вдова Сусанна (Розалия) Итальянская повторно вышла замуж через год после смерти мужа за короля Франции Роберта II, хотя четыре года спустя они развелись.
Жена (с ок. 968): Сусанна (Розалия) Итальянская (ок. 945 — 26 января 1003), дочь короля Италии Беренгара II Иврейского. Дети от этого брака: