Людовик, внук Карла Великого, был третьим сыном императора Людовика I Благочестивого и Ирменгарды из Хеспенгау. В 817 году император разделил свои владения между тремя сыновьями, Лотарем, Пипином и Людовиком, причём Бавария и прилегающие к ней земли достались Людовику (прозванному в связи с этим Немецким).
В 824 году, вместе с отцом и братом Пипином, Людовик Немецкий участвовал в походе в Бретань для подавления восстания, поднятого Виомарком. В 826 году он начал самостоятельно править выделенными ему отцом владениями. Последующие годы правления Людовика Немецкого ознаменовались его участием в мятеже трёх старших сыновей Людовика Благочестивого (830—834), которые выступили против попыток императора обеспечить за их счёт права их единокровного брата Карла.
Когда в 840 году Людовик Благочестивый умер, Карл II (прозванный Лысым) стал королем западных франков и объединился с Людовиком Немецким против Лотаря I (Пипин в 838 умер), которому досталась северная Италия и титул императора. Одержав над Лотарем победу при Фонтенуа (близ Осера) в 841 году, в 842 году Карл Лысый и Людовик подтвердили обязательства друг перед другом, принеся знаменитую клятву в Страсбурге, причём Людовик приносил её «по-романски», а Карл — «по-тевтонски». 11 августа 843 года между братьями был заключен Верденский договор, в соответствии с которым в королевство Людовика вошли все земли Карла Великого к востоку от Рейна, за исключением Фризии. Увеличилось и королевство Карла (вся западная часть современной Франции и область к югу от Пиренеев). Лотарю вновь досталась северная часть Италии и нечетко определенная пограничная территория между западно-франкскими землями Карла и восточно-франкскими землями Людовика. Теперь Людовик владел Саксонией, Франконией, Швабией, Баварией и зависимыми от них областями.
После того как в 855 году император Лотарь I умер, его земли были поделены между тремя его сыновьями. Вскоре между западными и восточными королями началась длительная борьба за контроль над областями среднего королевства. В 858 году Людовик вторгся во Францию, но в следующем году был вынужден отступить, а в 860 году по договору, заключенному в Кобленце, прежнее положение вещей было восстановлено. У Лотаря II, сына Лотаря I, не было законных детей, и Карл с Людовиком Немецким договорились о том, чтобы доставшуюся ему Лотарингию поделить между собой после его смерти, однако, когда он умер в 869 году, Карл нарушил договоренность и занял всю его область. Тогда Людовик вторгся в Лотарингию, и брату пришлось пойти на уступки. Согласно Мерсенскому договору 870 году, Людовик получил Фризию и значительно увеличил свои территории к западу от Рейна. Людовик Немецкий старался также раздвигать пределы своих владений на восток, захватывая славянские земли: в 844 году он напал на бодричей, стремился влиять на дела Великоморавского государства. Кроме того, ему постоянно приходилось уделять внимание междоусобной борьбе своих трёх сыновей (Карломана, Людовика Младшего и Карла Толстого), между которыми Людовик поделил свои владения ещё в 865 году.
В 875 году, после смерти императора Людовика II (сына Лотаря I), Людовик Немецкий пытался закрепить за своей линией императорский титул и владение Италией. Но несмотря на то, что незадолго до смерти Людовик II высказался в пользу Карломана как будущего императора, Карл Лысый быстро захватил Италию и короновался как император под именем Карла II, с чем Людовик Немецкий не пожелал смириться. Во время приготовлений к новому походу он и умер во Франкфурте 28 августа 876 года, после чего Карл Лысый попытался захватить его королевство, однако получил отпор от Людовика Младшего.