Шееле принадлежит честь открытия множества неорганические и органические вещества. В 1774 году он показал, что пиролюзит, считавшийся ранее разновидностью магнитного железняка, представляет собой соединение неизвестного металла. Тогда же при взаимодействии соляной кислоты и пиролюзита при нагревании был впервые получен хлор. Позже им были получены оксиды молибдена (1778 год) и вольфрама (1781 год) из природных минералов молибденита и тунгстена (шеелита). В 1779 году действием свинцового глёта на растительные и животные жиры Шееле впервые получил глицерин.
Им также открыты тетрафторид кремния (1771год), оксид бария (1774 год), мышьяковистый водород (1775 год), винная (1769 год), кремнефтористоводородная, фтороводородная (1771 год), мышьяковая (1775 год), щавелевая (1776 год), молочная (1780 год), синильная (1782 год) кислоты.
В 1769 году Шееле разработал способ производства фосфора из золы, образующейся при обжиге костей. В 1777 году, одновременно с Феличе Фонтана, он обнаружил способность свежепрокалённого древесного угля поглощать газы. В труде «Химический трактат о воздухе и огне» Шееле описал получение и свойства «огненного воздуха» и указал, что атмосферный воздух состоит из двух «видов воздуха»: «огненного» — кислорода и «флогистированного» — азота. Несмотря на то, что он впервые в истории получил в лабораторных условиях кислород приоритет открытия кислорода принадлежит Джозефу Пристли (1774), так как труд Шееле был опубликован только в 1777 году.
Курьезная страсть Шееле пробовать на вкус все, с чем он имел дело (по другим сведениям, в те годы при описании вещества необходимо было в обязательном порядке указывать его вкус), стоила ему жизни. В 1786 году его нашли мертвым на своем рабочем месте в окружении массы ядовитых реактивов; некоторые источники приписывают его смерть синильной кислоте.
Во время посещения Парижа шведским королём Густавом III к нему явилась делегация французских учёных и высказала почтение в связи с работой в Швеции выдающегося химика Карла Вильгельма Шееле, открывшего многие органические и неорганические вещества. Так как король никогда не слышал о Шееле, он отделался общими фразами, а затем немедленно издал приказ возвести химика в рыцарское достоинство. Однако премьер-министр тоже не знал учёного, и в результате титул графа достался другому Шееле — лейтенанту артиллерии, а химик так и остался неизвестным для короля и придворных.