Родился в семье судьи. Учился в университетах Карлсруэ и Берлина, в 1849 защитил в Базеле докторскую диссертацию по циклоиде. Оставшуюся жизнь провёл в Базеле, где преподавал в женской школе, а также читал лекции в Базельском университете. В 1868 году женился, имел шестерых детей.
В основном занимался научной деятельностью в области геометрии, но известность получил благодаря открытию в 1885 спектральной серии водорода, названной в его честь. Также в честь Бальмера назван один из кратеров на Луне.