Томас Митчелл родился в городе Элизабет в штате Нью-Джерси в семье ирландских иммигрантов. После окончания средней школы он пошёл по стопам отца и старшего брата и стал репортёром в газете. Однако вскоре он перешёл о написания газетных колонок к созданию комических театральных номеров.
В 1913 году Томас Митчелл дебютировал в качестве актёра в театральной компании Чарльза Кобёрна. К 1920-м годам он стал довольно успешным актёром, исполняя уже крупные роли на Бродвее. В 1923 году Томас Митчелл дебютировал в кино в небольшой роли в картине «Шестицилиндровая любовь». Большим порывом для него стал роль в фильме Фрэнка Капра «Потерянный горизонт» в 1937 году, после чего Митчелл стал очень востребован в Голливуде. Уже в том же году он получил номинацию на премию Американской киноакадемии за роль в фильме Джона Форда «Ураган».
В последующие несколько лет Митчелл появился во многих культовых фильмах XX века — в одном 1939 он снялся в пяти таких картинах: «Дилижанс», «Мистер Смит едет в Вашингтон», «Только у ангелов есть крылья», «Собор Парижской Богоматери» и «Унесённые ветром». Хотя в те годы он вероятно наиболее запомнился по роли отца Скарлет О'Хары в «Унесённых ветром», триумфальной для него стала роль в вестерне Джона Форда «Дилижанс», которая принесла ему премию «Оскар» в номинации лучший актёр второго плана.
В последующие два десятилетия Томас Митчелл оставался востребован в Голливуде, появившись в фильмах «Чёрный лебедь» (1942), «Ключи от царства небесного» (1944), «Эта прекрасная жизнь» (1946), «Ровно в полдень» (1952) и многих других. В 1953 году за свои роли в театре и на телевидении актёр был удостоен премий «Тони» и «Эмми», став при этом одним из немногих актёров, получивших, как называют её в США, тройную корону («Оскар», «Тони» и «Эмми»). В 1950-х он много снимался на телевидении, а завершил свою карьеру на театральной сцене ролью лейтенанта Коломбо, которого спустя несколько лет сыграл Питер Фальк в одноимённом телесериале.
Томас Митчелл скончался в декабре 1962 года от опухоли кости в Беверли-Хиллз в возрасте 70 лет. Актёр был кремирован, а его прах хранится в одной из капелл Лос-Анджелеса. За свой вклад в киноиндустрию и телевидении актёр удостоен двух звёзд на Голливудской аллее славы.