Родился в семье истопника.
Во время обучения в петербургской школе Феофана Прокоповича привлёк внимание последнего и в 1733 году был направлен на учёбу в Пруссию. По возвращении (1736) служил переводчиком в Академии наук и искусств. 3 (14) января 1741 года определён адъюнктом Академии по ботанике, выбыл 7 (18) марта 1743 года, но в апреле снова принят адъюнктом. Затем продолжил обучение в Париже и в «городе Тубинге».
Фаворит Елизаветы Петровны, граф Алексей Разумовский, под впечатлением от образованности Теплова приставил его воспитателем к своему младшему брату Кириллу. После путешествия по Европе 18-летний брат фаворита 21 мая (1 июня) 1746 года получил назначение президентом Академии наук и художеств, хотя в реальности всеми делами Академии занимался Теплов. 1 (12) июля 1746 года Теплов назначен асессором в Академическую канцелярию, а 28 июля (8 августа) 1747 года избран почётным членом Императорской Академии наук и художеств и определён членом Академического собрания со старшинством по чину его пред всеми академиками, кроме Шумахера. Он конфликтовал с Ломоносовым (который умолял императрицу, чтобы она его «от Теплова ига избавить не презрила»), разжаловал Миллера за проповедь норманизма, а поэта В. К. Тредиаковского, по словам последнего, «ругал как хотел и грозил шпагою заколоть».
В 1750 году Елизавета направила К. Разумовского гетманом в Малороссиию. Теплов и тут последовал за своим покровителем, намереваясь писать историю Украины. Собранные им материалы так и не были использованы. При восшествии на престол Петра III за какие-то «нескромные слова» попал в опалу и подвергся допросам. «Отставка, однако, не мешала Теплову по-прежнему фактически управлять из-за спины Разумовского делами как в Малороссии, так и в академии наук». Всей душой ненавидя своего гонителя, он сблизился с Орловыми, всеми силами способствовал дворцовому перевороту 1761 года и присутствовал при убийстве императора в Ропшинском дворце.
В первые годы правления Екатерины Теплов готовил основные законодательные акты, составив своего рода триумвират с Никитой Паниным и Екатериной Дашковой. Едва ли не главным его начинанием стало упразднение гетманства, что современники восприняли как личную измену его Разумовскому. Постепенно императрица отстранила его от ведения дел (возможно, по наветам не любившего его канцлера Бестужева), хотя формально его чин был повышен до сенаторского.
Австрийский посол в донесении Кауницу давал Теплову нелицеприятную характеристику: «Признан всеми за коварнейшего обманщика целого государства, впрочем, очень ловкий, вкрадчивый, корыстолюбивый, гибкий, из-за денег на все дела себя употреблять позволяющий». Ему вторит С. М. Соловьёв: «безнравственный, смелый, умный, ловкий, способный хорошо говорить и писать». По воспоминаниям Казановы, Теплов любил окружать себя молодыми людьми приятной наружности, один из которых, будущий генерал Лунин (дядя декабриста), открыто флиртовал со знаменитым итальянцем.
Счастливая биография Теплова, его придворная карьера не оставила равнодушными завистников. В частности, он вошел в число лиц, изображенных в знаменитом памфлете Гельбига «Русские избранники»
Теплов был женат дважды, на шведке и на малороссийской родственнице Разумовских. Дочери от первого брака были за Демидовым и Неплюевым. От второго брака — сын Алексей, харьковский губернатор. Его дочь Е. А. Теплова — жена декабриста Чернышёва.
Теплов издал переложение на русский язык философского учения Х. Вольфа. Автор первого устава Московского университета,проектов первых указов императрицы Екатерины II, переводов трудов А.Д. Кантемира, проекта создания в России гимназий.
Знаток сельского хозяйства, лесоразведения, садоводства. В своём имении (с. Молодовое, Орловской губернии) собирал книги, рукописи, картины. Коллекция Теплова погибла и частью сожжена в период разграбления усадьбы бандой вооруженнных грабителей в 1917 году. Управляющий имением В.П. Скрябин, тщетно пытавшийся найти защиту у местных властей в г. Карачеве, свидетельствовал, что стоимость редких книг Тепловых составляла около 200 тысяч золотом, это - большая потеря для русской культуры. Теплов много лет собирал материалы для истории Малороссии, но они не были изданы.
Музыкант-любитель, Теплов выступал как клавесинист и скрипач, сочинял музыку. Его сборник из 17 песен «Между делом безделье» (1759) — первый русский печатный песенник.
Основное философское сочинение Теплова - это "Знания, касающиеся вообще до философии, для пользы тех, которые о сей материи чужестранных книг читать не могут" (1751). Они состоят из 3 частей: определения занятия философа, истории философских школ и философского словаря. Бог в его модели мира олицетворяет высшую разумность в организации Вселенной. Рационалистична и его этика: подлинная моральность по своей сути разумна. Теплов дает перевод-определение категорий: