Родился в Екатеринославе в 1893 году. Затем жил в Полоцке, где закончил четырехклассное городское училище, в 1908 году его семья вновь переехала в Екатеринослав. В 1908 году дебютировал в екатеринославской печати — писал стихи и заметки. В 1913 году окончил гимназию и поступил в Женевский университет, но, приехав в 1914 году домой на каникулы, не смог вернуться к обучению из-за начала первой мировой войны. Находясь в Петрограде, поступил в Психоневрологический институт, откуда перевелся на юридический факультет Санкт-Петербургского университета. После Февральской революции вернулся в Екатеринослав, где окончил Высший институт народного образования. В 1922 году переехал в Петроград. в 1924 году окончил литературно-художественный факультет общественных наук Петроградского университета. Был арестован (по обвинению «в подготовке заговора против Сталина и Маленкова»); первоначальным поводом для ареста стал рассказ "Истребитель 2Z", название которого по несчастной случайности совпало с обозначением действительно разрабатывавшегося в те годы секретного истребителя. Год провел в Лубянской тюрьме. После освобождения жил в Москве, работал в журнале «В бой за технику». Участник Великой Отечественной войны (был демобилизован по болезни). Член Союза писателей СССР (1935).
Начинал своё творчество как поэт: впервые его стихи появились в екатеринославской газете «Южная заря» в 1908 году. В 1922 году вышел сборник его стихов, который отметил В. Брюсов.
В 1920-е годы начал работать в жанре научной фантастики и известен главным образом благодаря этому направлению своего творчества. Его произведения, написанные в жанре твёрдой научной фантастики, посвящены традиционным темам: космическим полетам, изобретениям и открытиям и т. п. Первая научно-фантастическая публикация — «Человек без боли» (1929). Роман «Гольфштрем» (1928) представляет собой вариацию на тему романов «Человек, укравший Гольфштрим» Ж. Тудуза и «Завет предка» В. Ирецкого. В фантастической повести «Планета Ким» (1930), посвященной энтузиастам ракетных двигателей, описана экспедиция в космическое пространство. Роман «Остров Таусена» (1948), навеян «Островом доктора Моро» Уэллса и посвящён перспективам генетики. Эта книга вызвала критику за «пропаганду вейсманизма-морганизма» и после неё Палея долго не печатали. В 1968 году вышел роман «В простор планетный», который описывает исследователей, живущих и работающих на Венере.
Писатель Александр Беляев писал, что Абрам Палей вдохновил его на писательство в жанре фантастики.