Сын офицера полиции. После окончания народной школы выучился на пекаря и кондитера. Работал подмастерьем в Иннсбруке, Вене, Будапеште и Берлине.
Осенью 1914 г. вступил добровольцем в 3-ий Баварский пехотный полк, впоследствии перевёлся в авиацию. Служил на Западном фронте, в 1917 г. произведён в унтер-офицеры, был неоднократно ранен. Совершил 28 самолётовылетов над расположением французских войск. В июле 1918 г. был сбит (получил тяжёлые ранения, а двое его напарников погибли) и попал в плен. После неудачной попытки побега был помещён в одиночную камеру, а затем переведён в рабочий лагерь. Освобождён в феврале (по другим данным, в сентябре) 1920 г.
Служил в полиции Аугсбурга, затем работал в муниципальных службах (контролёром и кассиром на газовом заводе). Был дважды женат, имел сына. С 1932 г. безработный.
В 1930 г. вступил в НСДАП (№ 298.668) и СС. В апреле-декабре 1933 г. комендант 29-го штандарта СС. Затем служил во вспомогательной команде СС в Дахау. После обвинения в краже денег из кассы лагерной столовой представил прошение о переводе и был назначен комендантом концлагеря Эстервеген, который возглавлял с июля 1934 по март 1936 гг. С 1 апреля 1936 г. по 1 июля 1939 гг. комендант концлагеря Дахау.
1 июля 1939 г. из-за жестокого обращения с заключёнными был переведён на пост командира 35-го штандарта СС в Грац. Посредством труда заключённых возвёл себе роскошную виллу в Санкт-Гильгене. Одновременно с апреля 1940 по сентябрь 1942 гг. был комендантом концлагеря Заксенхаузен. Изобрёл новый способ массового умервщления советских военнопленных. Привезённых военнопленных приводили в помещение, где приказывали раздеться догола. Затем их вводили в следующее помещение, где их осматривал врач из СС. Тому, у кого были золотые коронки, ставили над груди голубой крестик. В третьем помещении, где якобы располагалась ванная, на одной из стен была щель, куда можно было просунуть ствол пистолета. Когда жертва ждала продолжения медицинского осмотра, один из охранников убивал её выстрелом в затылок. Музыка из соседнего помещения заглушала выстрелы. Там же были сделаны специальные кровостоки. Весь процесс занимал одну минуту. Таким образом, под руководством Лорица в Заксенхаузене было уничтожено по меньшей мере 12 000 советских военнопленных. Лориц, однако, был снят с должности по той же причине, что и в Дахау. Также обвинялся в коррупции (в том числе строительстве за казённый счёт охотничьего домика, траты денег на откорм собственных свиней и т. д.). С сентября 1942 г. высший начальник СС и полиции оберабшнита «Север» в Норвегии.
После окончания войны был интернирован. Покончил с собой.