Карл Мюфке родился в Воронеже 30 января 1868 года в семье аптекаря-провизора.
Учился в Воронежской гимназии, затем в Санкт-Петербургской академии художеств, на архитектурном отделении. В 1893 году переведён слушателем Высшего художественного училища.
В 1896 году Карл Людвигович успешно окончил училище и получил звание архитектора-художника. В качестве поощрения за хорошую учёбу Мюфке был направлен в поездку по Италии, Франции, Германии и Австрии для ознакомления с лучшими образцами европейской архитектуры. В 1897 году он получил назначение на государственную службу в Казанскую художественную школу.
В период с 1901 по 1909 год Карл Людвигович работал в должности архитектора-строителя Казанского университета.
В 1909 году Мюфке приехал в Саратов. Сразу по приезде Мюфке приступает к проектированию комплекса зданий Саратовского университета.
Умер Карл Людвигович Мюфке в феврале 1933 года (по другим сведениям — в марте). Похоронен в Саратове на Воскресенском кладбище.