Окубо Тосимити родился в замке Кагосима провинции Сацума (ныне префектура Кагосима) и был старшим из пяти детей. Учился в одной школе с Сайго Такамори, который был старше его на три года. В 1862 году Окубо Тосимити стал одним из авторов идеи реформы сёгуната, названной «кобу гаттай» (яп. ???? ко:бу гаттай, «единение императорского двора и сёгуната») и ставшей своеобразной программой примирения военного правительства бакуфу и императорской власти, находившихся тогда в состоянии открытой конфронтации. Кобу гаттай была гораздо менее тенденциозна и экстремальна, чем программа Сонно Дзёи, предусматривавшая помимо реставрации императорской власти ещё и полное изгнание из Японии иностранцев и расторжение заключённых с ними договоров. Однако после событий 1863 года, когда английский флот обстрелял княжество Сацума, взгляды Окубо изменились. В 1866 году, вместе с Сайго Такамори и Кидо Такаёси они сформировали альянс между кланами Сацума и Тёсю, который привёл в 1868 году к падению сёгуната Токугава и к восстановлению императорской власти.
После победы Реставрации Мэйдзи Окубо Тосимити вошёл в правительство в качестве министра финансов и стал автором земельной реформы 1872—1881 годов, а также автором закона об отмене самурайских привилегий. В 1871—1873 годах он присоединился к миссии Ивакуры Томоми и посетил Америку и Европу с целью ознакомления с западным опытом. Впоследствии он стал министром внутренних дел и фактическим главой правительства. В 1877 году в провинции Сацума вспыхнуло восстание самураев, недовольных отменой их особого положения в обществе. Восстание возглавил Сайго Такамори, бывший незадолго до этого военным министром. Правительственными войсками при подавлении восстания командовал Окубо, что сделало его предателем в глазах старых товарищей из Сацумы. В 1878 году он был убит Симадой Итиро и группой из шести самураев из Сацумы на пути в Токио.