Иоганн Баптист Альцог родился 29 июня 1808 года в городе Олау (ныне Олава), в Силезии.
Альцог И. Б. посещал гимназию в Бриге, слушал затем в Бреславле (ныне Вроцлав) и Бонне лекции по философии и богословию.
С 1830 по 1833 занимал в Ахене должность домашнего учителя и в 1834 году был посвящен в Кёльне в священники.
Благодаря своей докторской диссертации «Explicatio catholicorum systematis de interpretatione litterarum sacrarum» (Мюнстер, 1835) И. Б. Альцог в 1834 году был назначен профессором при священнической семинарии в Позене (ныне Познань).
В 1846 году он был уже членом капитула каноников и профессором при семинарии в Гильденсгейме (ныне Хильдесхайм), а в 1853 году духовным советником и профессором духовной истории в Фрейбурге.
В 1863 году Иоганн Баптист Альцог вместе с Иоганном Йозефом Игнацом фон Дёллингером и Ганебергом созвали собрание католических учёных в городе Мюнхене. В 1869 году, согласно «ЭСБЕ», приглашенный в члены догматической комиссии для предварительных работ к Первому Ватиканскому собору, он был единственным богословом, высказавшимся против провозглашения догмата о папской непогрешимости. По принятии этого последнего он подчинился решению собора и отнесся неодобрительно к образованию старокатолицизма.
Некоторое печатные труды И. Б. Альцога были переведены на французский и английский языки.
Иоганн Баптист Альцог скончался 28 февраля 1878 года в городе Фрайбурге.