Труды по неевклидовой геометрии и дифференциальной геометрии, особенно в области римановой геометрии, в которой создал свою научную школу. Сталинская премия (1943).
Каган интересовался математической физикой и стал одним из пионеров преподавания общей теории относительности в СССР, где эти лекции слушали Н. Д. Папалекси, И. Е. Тамм и А. Н. Фрумкин.
Каган был редактором математического отдела первого издания Большой советской энциклопедии и автором многих её статей. Он был издателем собрания сочинений Н. И. Лобачевского и написал о нём популярную книгу.
Его учениками были П. К. Рашевский, И. М. Яглом и В. В. Вагнер
Внуки — математик Я. Г. Синай и механик Г. И. Баренблатт.