Родился в семье самурая. Во время войны Босин сражался на стороне проимператорских сил против сёгуната. Во время восстания Сацума командовал полком. В Японо-китайской войне 1894—1895 годов командовал дивизией и особенно отличился при взятии Вейхавэя. В 1903 году назначен членом императорского военного совета и командующим 1-ой армией.
Во время русско-японской войны командовал японской 1-й армией. Высадив свои войска в Чемульпо в середине февраля 1904 года, Куроки занял Корею и заставил отступить небольшой русский отряд в сражении на реке Ялу.
Командовал 1-й армией в сражении при Ляояне, сражении на реке Шахе и Мукденском сражении.
Вышел в отставку в 1909 г. Получил титул графа. Умер в 1923 году.