Максимилиан был старшим сыном Фердинанда I и его жены Анны Богемской и Венгерской, родился в Вене 31 июля 1527 года. Он обучался в Испании, приобрёл военный опыт во время кампании своего дяди Карла V против Франции в 1544 году, а также в Шмалькальденской войне, и вскоре начал принимать участие в делах империи.
В сентябре 1548 года Максимилиан женился на своей кузине Марии, дочери Карла V, и с 1548 по 1550 годы был наместником императора в Испании. В декабре 1550 году он вернулся в Германию, чтобы принять участие в обсуждении судьбы императорского престола. Карл V желал, чтобы его сын Филипп (впоследствии король Испании) стал его преемником, однако его брат Фердинанд, правивший династическими землями Габсбургов, тоже хотел получить императорский титул. Компромисс был достигнут: Филипп был объявлен наследником Фердинанда. Между двумя ветвями Габсбургов были весьма натянутые отношения, из-за которых болезнь Максимилиана в 1552 году приписывали отравлению в интересах его кузена Филиппа.
Примерно в то же время Максимилиан поселился в Вене и стал править австрийскими владениями и оборонять их от турок. Ещё в раннем возрасте Максимилиан попал под влияние протестантизма, он поддерживал дружеские отношения с протестантскими правителями и близко общался с придворным священником-лютеранином. Его отец, став императором в 1558 году, пообещал папе Павлу IV, что его сын не взойдёт на императорский престол, если покинет католическую церковь. Таким образом, Максимилиан формально оставался католиком, хотя до конца жизни придерживался протестантских взглядов.
В ноябре 1562 года Максимилиан был коронован во Франкфурте как римский король или король Германии, став наследником императора. Предварительно он убедил католических князей в том, что разделяет их веру, а протестантским князьям обещал, что публично примет Аугсбургское исповедание, став императором. В сентябре 1563 года Максимилиан стал королём Венгрии, а после смерти его отца, в июле 1564 года стал императором Священной Римской империи, а также королём Венгрии, Хорватии и Богемии.
Став императором, Максимилиан вынужден был разбираться с религиозным расколом в своих землях. Будучи веротерпимым монархом, он старался соблюсти баланс и часто выступал посредником между католиками и протестантами. В 1568 году после очередной войны с Османской империей Максимилиан заключил с султаном Селимом II мирный договор с выплатой туркам дани в течение 8 лет.
Отношения между Максимилианом и Филиппом Испанским со временем наладились. Смерть испанского инфанта Карлоса в 1568 году открывала для Максимилиана или его сыновей путь к наследованию испанского престола. В 1570 году дочь императора Анна стал четвёртой женой его кузена Филиппа II. Также Максимилиан без особого успеха заступался за перешедшие в протестантизм Нидерланды, которые Филипп пытался покорить огнём и мечом. В 1575 году группа польских и литовских магнатов предложила Максимилиана в качестве кандидата на трон Польши, однако он не имел достаточной популярности и королём избрали трансильванского князя Стефана Батория.
Максимилиан скончался 12 октября 1576 года в Регенсбурге. Перед смертью он отказался от последнего причастия. Император был похоронен в соборе Святого Вита в Праге. Трон Максимилиана перешёл его сыну Рудольфу, а позже императором также стал его сын Матвей.
В 1548 году женился на испанской инфанте Марии (1528—1603), дочери императора Карла V. Дети: