Франц Конвичный родился 14 августа 1901 года в семье музыкантов в городе Фульнек, в северной Моравии. Начал обучаться музыке в 1920 году, в Брно, где обучался игре на скрипке, с 1923 по 1925 год учился в Лейпциге и одновременно играл на скрипке и альте в оркестре под управлением Гевандхауза.
С 1925 по 1927 год преподавал в народной консерватории в Вене, где вёл классы скрипки и теории музыки. В 1930 году переехал во Фрайбург, где в 1933 году получил должность генеральмузикдиректор. В 1938 году переехал во Франкфурт-на-Майне, где стал художественным и музыкальным руководителем местного оперного театра (нем. ). С 1945 по 1949 год Франц Конвичный работал в Ганновере, работал там как оперный и концертный дирижёр. С 1949 по 1962 год Конвичный возглавлял Лейпцигский оркестр Гевандхауза, в этот же период осуществил ряд выдающихся оперных постановок в оперном театре Дрездена и Немецкой государственной опере в Берлине.
1 июля 1923 года Франц Конвичный вступил в НСДАП, получив членский билет номер 2756. В 1934 году Конвичный по случаю дня рождения Гитлера поставил оперу «Фиделио» Людвига ван Бетховена, в которой он вывел штурмовиков и флаги со свастикой на сцену. Художественным руководителем театра постановка была запрещена. Однако уже в ноябре 1934 года Конвичный дирижировал на концертном исполнении оперы «Художник Матис» композитора Пауля Хиндемита, которого к тому времени Йозеф Геббельс обвинил в том, что он пишет атональную музыку, и он был по сути запрещённым композитором. 16 октября 1937 года Франц Конвичный выступил в заключительной части митинга с темой «Раса и культура», который проводил Альфред Розенберг.
Имя Конвичного тесно связано с развитием музыкальной культуры ГДР. Он много внимания уделял пропагандированию композиторов-современников из ГДР: Ханса Эйслера, Отмара Герстера (нем. ), Пауля Дессау (нем. ), Гюнтера Кохана (нем. ), Зигфрида Курца (нем. ). Исполнял он и произведения И. С. Баха, Антона Брукнера, Иоганнеса Брамса, Макса Регера. Среди осуществлённых записей — произведения Людвига ван Бетховена (все симфонии), Иоганнеса Брамса, Антона Брукнера, Рихарда Вагнера, Феликса Мендельсона, Рихарда Штрауса, Франца Шуберта, Роберта Шумана (все симфонии).
Неоднократно с оркестром Гевандхауза гастролировал в СССР, а также Англии, Польше, Японии и в других странах.
Умер Франц Конвичный во время концертного тура в Белграде 28 июля 1962 года. Похоронен он на южном кладбище в Лейпциге.
Сын Франца — Петер (нем. ) — известный немецкий оперный режиссёр.