Работы в комбинаторной геометрии (в частности связанные третьей проблемой Гильберта), топологии, кибернетике.
Широко известен своими трудами по методике преподавания математики и популярными книгами по математике.
Отец — один из организаторов российской кинематографии, историк кино Григорий Моисеевич Болтянский (1885—1953).