Танака родился в самурайской семье в городе Хаги провинции Нагато в Японии. Закончил Военную академию Императорской армии и Высшую военную академию Императорской армии в 1892 году, участвовал в войнах с Китаем и Россией в качестве адъютанта генерала Кодамы Гэнтаро. В 1906 году участвовал в составлении плана обороны, который был настолько высоко оценён генеральным штабом, что разработки Танаки были приняты за основу военной политики вплоть до начала Первой мировой войны.
Танака владел русским языком, который изучил, будучи военным атташе в Москве. Каждое воскресенье он посещал литургию в православной церкви, хотя осталось неизвестным, перешел он в православие или нет.
В 1911 году Танака стал генерал-майором и был назначен директором Бюро по военным делам при Министерстве армии, где он рекомендовал усилить регулярную армию на две пехотные дивизии.
В 1920 году Танака стал генералом. Вскоре он получил портфель министра армии в правительстве Хары Такаси (1918—1921 годы), а позднее — в правительстве Ямамото Гоннохёэ (1923—1924). Он также был одним из военных руководителей, участвовавших в интервенции в Приморье.
Выйдя в отставку, в 1925 году Таканака получил приглашение возглавить партию Риккэн Сэйюкай и место в Палате Советников. Позднее он получил титул дансяку (барона) в системе кадзоку.
Было решено, что Танака должен получить титул маршала при выходе в отставку, но когда в министерстве узнали о том, что за согласие возглавить партию Риккэн Сэйюкай генерал получил 3 миллиона йен, приказ о присвоении ему очередного звания был отозван.
Танака стал премьер-министром Японии в 1927 году, параллельно выполняя функции министра иностранных дел. На его правление пришлась финансовая паника 1927 года.
Танака предпринимал все усилия для того, чтобы подавить движения социалистов, коммунистов и им сочувствующих (см. Инцидент 15 марта 1928 года (Япония) и Инцидент 19 апреля 1929 года (Япония)).
Танака продолжил политику агрессивной интервенции в Китае и Монголии. В течение 1927—1928 годов он трижды направлял войска в Китай, в том числе во время Цзинаньского инцидента.
Танака пришёл к власти в то время, когда в Японии начали назревать события, впоследствии приведшие к ее участию во Второй мировой войне. В 1928 году действия ультра-правых националистических обществ и Квантунской армии вылились в кризис: убийство китайского милитариста Чжан Цзолиня и неудачную попытку оккупации Маньчжурии. Для самого Танаки убийство Чжан Цзолиня было неожиданностью. Он утверждал, что офицеры, ответственные за инцидент должны предстать перед военно-полевым судом. Военная элита, куда Танака не входил, настаивала на сокрытии фактов. Не имея поддержки и подвергаясь критике как со стороны парламента, так и со стороны самого императора Хирохито, Танака и его кабинет ушли в отставку в полном составе. Через несколько месяцев генерал умер.
С другой стороны, в меморандуме, опубликованном в середине 1950-х родившимся в Японии тайваньцем Цзай Чжиганем, утверждалось, что Цзай лично скопировал этот план в Императорской библиотеке в ночь на 20 июня 1928 года. В этой связи многие современные китайские учебники истории рассматривают Меморандум Танаки как подлинный документ.