Тэраути Масатакэ родился в княжестве Тёсю в семье самурая из клана Хаги.
В войне Босин Тэраути воевал на стороне императора в качестве солдата и после этого получил звание младшего лейтенанта. В ходе восстания Сайго Такамори в Сацуме Тэраути потерял правую руку. Однако это увечье не помешало Масатакэ сделать военную и политическую карьеру.
В 1882 году Тэраути Масатакэ стал военным атташе во Франции. После этого, в 1898 году, он был назначен первым главным инспектором боевой подготовки. В 1901 году он стал министром армии в первом кабинете Кацуры Таро. Он оставался в должности в течение русско-японской войны, принесшей Японии победу. После войны ему был присвоен титул барона, а в 1911 году — графа.
Тэраути стал генерал-резидентом Кореи 30 мая 1910 года, сменив на этом посту Сонэ Арасукэ. Его назначение во многом стало следствием убийства Ито Хиробуми Ан Чунгыном на Харбинском вокзале. Тэраути Масатакэ завершил процесс присоединения Кореи, подписав Договор о присоединении Кореи к Японии. С корейской стороны подпись поставил премьер-министр Ли Ванён, уполномоченный императором Кореи Сунджоном. После обнародования договора 29 августа 1910 года Тэраути стал первым генерал-губернатором Кореи.
Договор о присоединении Кореи к Японии был негативно принят значительной частью корейцев. Для подавления сопротивления Тэраути прибегнул к военным мерам.
Тэраути Масатакэ полагал, что у корейцев и японцев общие корни, поэтому по его приказу в Корее было открыто несколько тысяч школ, где изучался японский язык и японская литература.
Тэраути провёл земельную реформу в Корее: был создан земельный кадастр, однако составлялся он исключительно на основе письменных документов, между тем как земельные отношения в Корее зачастую регулировались с помощью обычного права. Это привело к утрате земли значительной частью корейских крестьян.
В 1916 году Тэраути стал премьер-министром Японии. В том же году он получил титул маршала. В своем кабинете Тэраути совмещал посты премьер-министра, министра финансов и министра иностранных дел.
Тэраути Масатакэ проводил агрессивную внешнюю политику. Он спонсировал противоборствующие группы в правительстве Китая, надеясь использовать их разногласия как повод для Японского вмешательства. Он подписал соглашение с США, которые признавали «особые интересы Японии в Китае». По приказу Тэраути японские войска захватили немецкую колонию Циндао, выполняя союзнические обязательства перед Антантой. После Октябрьской революции в России Япония участвовала в интервенции в Сибирь и поддерживала Белое движение.
29 сентября 1918 года Тэраути вышел в отставку из-за «рисовых бунтов», вспыхнувших в Японии из-за послевоенной инфляции. 3 ноября 1919 года Тэраути Масатакэ умер.