В 1930—1932 учился по классу специального фортепиано в Одесской консерватории у известного педагога — профессора М. М. Старковой, также у Н. Н. Вилинского по классу специальной гармонии и полифонии. В 1935 окончил аспирантуру Московской консерватории в классе Генриха Нейгауза.
Первый концерт Зака состоялся в 1935, и в том же году он завоевал третье место на Втором всесоюзном конкурсе музыкантов-исполнителей. Мировую известность пианист получил, одержав блестящую победу на Третьем Международном конкурсе пианистов имени Шопена в Варшаве (ему также был присуждён специальный приз за лучшее исполнение мазурок композитора). Кроме сольных выступлений, играл в ансамбле с Квартетом Большого театра и в фортепианном дуэте с Э. Г. Гилельсом.
Вскоре Зак стал преподавать в Московской консерватории (с 1947 — профессор), среди его учеников — Николай Петров, Элисо Вирсаладзе, Евгений Могилевский, Валерий Афанасьев.
Похоронен на Кунцевском кладбище.
Игра Зака характеризуется виртуозностью, деликатностью подхода к произведению и художественной глубиной. Значительную часть его репертуара составляли сочинения советских композиторов, среди которых — Евгений Голубев, Юрий Левитин, Дмитрий Кабалевский, Михаил Чулаки и другие авторы. Зак также сделал записи сочинений Сергея Прокофьева, Сергея Рахманинова, Сергея Василенко.
Перу Зака принадлежит ряд статей и методических работ о фортепианном исполнительстве — «О некоторых вопросах воспитания молодых исполнителей», «Встречи и воспоминания», статей о творчестве советских пианистов — Марии Юдиной, Розы Тамаркиной и др.