Из еврейской семьи. Родился в Галиции (сегодня — Польша). С 7-летнего возраста учился игре на фортепиано в Вене у Теодора Лешетицкого (учитель сказал ученику: Ты никогда не будешь пианистом. Ты будешь музыкантом). Затем Шнабель учился у О. Мандычевского, одного из ближайших друзей Брамса; однажды Шнабель слушал исполнение и самого Брамса, игравшего свой Первый фортепианный квартет.
С 1900 г. выступал в Берлине как профессиональный пианист. Тогда и сложился его репертуар: Бах, Моцарт, Бетховен, Франц Шуберт, Роберт Шуман, Брамс. Между тем собственные сочинения Шнабеля целиком относились к атональной музыке.
Гастролировал в США, России, Великобритании, Испании. С 1925 преподавал в Берлинской Высшей школе музыки. Многократно выступал в ансамблях с Пабло Казальсом, Карлом Флешем, Хиндемитом (как альтистом), Пьером Фурнье, Йожефом Сигети, Хуго Беккером, Григорием Пятигорским.
В 1933, после прихода Гитлера к власти, покинул Германию. Жил в Великобритании, Италии, с 1939 — в США (в 1944 получил американское гражданство). После окончания Второй мировой войны выступал в Европе, но никогда не возвращался в Германию (даже на приглашение Вильгельма Фуртвенглера).
Оказал большое влияние на Гленна Гульда.
Кавалер черногорского Ордена князя Данило I.
Автор автобиографической книги My life and music (1961, многократно переиздавалась).