Окончил Парижскую консерваторию, был учеником Буальдьё и Керубини. В 1811—1848 гг. преподавал там же по классу фортепиано; среди учеников Циммермана, в частности, были Жорж Бизе, Амбруаз Тома, Шарль Валантен Алькан, Сезар Франк, Антуан Мармонтель. Циммерман оставил учебник «Encyclop?die du pianiste compositeur», в трёх томах. Из его двух опер «L’enl?vement» и «Nausicaa» первая была поставлена в 1830 г. в Париже. Он написал также много фортепианных сочинений.