Окончил Гарвардский университет со специализацией по английской литературе. Преподавал в американских школах и университетах. К писательской карьере обратился в послевоенные годы: первый детективный рассказ из серии о Ники Уэлте, профессоре из Новой Англии, появился в печати в 1947 г. и признан сегодня классикой жанра.
Настоящую славу Кемельману принёс цикл детективных романов, в которых главным действующим лицом является раввин Смолл — наподобие Честертоновского отца Брауна демонстрирующий куда бо?льшие успехи в раскрытии преступлений, чем профессиональные сыщики и полицейские, благодаря здравому смыслу и постоянному обращению к источникам религиозной мудрости.