Родился в семье берлинского профессора. В 1889 году закончил гимназию и поступил в Берлинский университет. Позже учился в университетах Галле (Саксония-Анхальт) и Фрайбурга.
1894: защитил докторскую диссертацию (по вариационному исчислению) в Берлинском университете. Далее несколько лет работает помощником Макса Планка.
1897: переезжает в Гёттинген.
1910: занимает кафедру математики в Цюрихском университете, где работает до 1916 года, после чего приостанавливает преподавание в связи с ухудшением состояния здоровья.
В 1926—1935 годах работает во Фрайбурге. После крушения нацистского режима возвращается вновь на эту кафедру.
Умер в 1953 году во Фрайбурге.
Основной областью исследований Цермело была теория множеств. Первая его работа на эту тему появилась в 1902 году.
В 1904 году появилась самая известная из работ Цермело, в которой он доказал, что любое множество можно вполне упорядочить (см. теорему Цермело). Доказательство, однако, опиралось на так называемую аксиому выбора, которая впервые явно сформулирована именно в этой статье и нередко называется «аксиома Цермело». В дальнейшем роль аксиомы выбора в математике вызвала активную дискуссию разных математических школ, в которой высказывались самые разные мнения — от полной поддержки до абсолютного неприятия. Высказывались также опасения, что применение этой аксиомы может привести к противоречиям. Поэтому Цермело вплотную занялся проблемой построения аксиоматического фундамента теории множеств (1905).