В 1861 году получил должность преподавателя при фабричных школах в Альткемнитце (Саксония). Двенадцать лет провел в тюрьмах Саксонии. До сих пор многие считают, что Карл Май начал писать свои романы в тюрьме. Первые рассказы — «Приключенческая поездка в Курдистане», «Караван смерти», «Стамбул» — опубликованы в 1881—1887 годах. С 1892 года публиковал рассказы о путешествиях в периодике, в том числе цикл «По пустыне».
В 1893—1910 году Май опубликовал свой самый знаменитый цикл романов о благородном индейце Виннету. С 1895 года ежегодно продавались более 60 000 экземпляров его романов. Наибольшую известность приобрели иллюстрации к его романам, созданные Сашей Шнайдером.
Лишь в 1908 Май побывал в Америке, причём западнее Буффало не ездил.
Ему принадлежат также романы, действие которых происходит на Ближнем Востоке, во владениях Османской империи. Май выступал как композитор и драматург.
В 1960-е годы многие его романы были экранизированы совместно кинематографистами ФРГ и Югославии.
Считается, что романы Карла Мая были любимыми книгами Адольфа Гитлера во время его учебы в школе. По этой причине после войны его произведения не изучались ни в ГДР, ни в СССР.
приключения Кара бен Немзи в Африке.
Карл Май писал музыку, был специалистом по нескольким музыкальным инструментам. Его версия Ave Maria была очень хорошо известна.
Творчеству Карла Мая и образам Виннету и Шэттерхенда посвящена книга Андрея Шарого «Знак W: Вождь краснокожих в книгах и на экране» (2008).