Ранняя биография писателя подробно описана в неоконченном автобиографическом романе «С ярмарки». Будущий писатель родился 2 марта 1859 года в небогатой патриархальной еврейской семье в селе Воронькове (сейчас Бориспольский р-н.) под Киевом. Мать умерла, когда мальчику исполнилось 13. В возрасте 15 лет, вдохновлённый Робинзоном Крузо, он написал собственную, еврейскую версию повести и решил стать писателем. Взял псевдоним Шолом-Алейхем (мир вам — традиционное еврейское приветствие).
После окончания школы в 1876 три года обучал дочь богатого еврейского предпринимателя Голдэ (Ольгу) Лоеву. Между учителем и ученицей вспыхнуло чувство. В тот момент богатый отец возлюбленной не был готов к такому социально неравному браку, и Шолом-Алейхем потерял работу в доме у Лоева. Только через шесть лет, в 1883, вопреки воле своего отца, она стала его женой и родила ему шестерых детей. После смерти тестя Шолом-Алейхем стал наследником колоссального состояния, однако ему не удалось выгодно распорядиться этими деньгами, вложить их в дело, чтобы приумножить семейный капитал. Шолом-Алейхем известен как человек, поменявший множество совершенно разноплановых профессий, начиная от странствующего репетитора, заканчивая игроком на бирже. Именно увлечение биржевыми спекуляциями, которому он предался в Одессе, подвело начинающего финансиста. Также Шолом-Алейхем спонсировал выпуск журналов, которые печатали художественные произведения на идиш. Таким образом, вскоре грандиознное наследство было промотано окончательно и бесповоротно. Однако к этому времени (начало XX века) он приобретает известность как автор стихотворных произведений и прозаических текстов на идиш. Шолом-Алейхем обожал публичные выступления, постоянно организовывал их, без преувеличения, по всему миру, поэтому уже в скором времени он стяжал себе славу оформившегося писателя с мировым именем.
С 1883 пишет почти исключительно на идиш (за исключением нескольких рассказов и публикаций на русском и иврите). Своей целью ставит просвещение простого народа, иврит же знали немногие. Получив наследство после смерти тестя, он издаёт альманах ?? ??????? ??????????????? (Ди йидише фолкс-библиотек, Еврейская народная библиотека) на идиш, помогает молодым авторам, выплачивая им большие гонорары. Вскоре разоряется.
Шолом-Алейхем с симпатией относился к сионистскому движению (хотя и не разделял в полной мере его идеалов), в 1888 году он вступил в палестинофильскую организацию «Ховевей Цион», а в 1907 году был делегатом от США на VIII Сионистском конгрессе в Гааге
Критики называют его еврейским Марком Твеном за сходство стилей и любовь к литературе для детей. Позже, при встрече, Марк Твен заметил, что считает себя американским Шолом-Алейхемом.
После 1891 писатель живёт в Одессе. После погромов в 1905 уезжает с семьёй в Швейцарию, затем в Германию. Считается, что Шолом-Алейхем пересек океан четыре раза. Однако в первое десятилетие двадцатого века начала давать знать о себе неизлечимая в то время болезнь писателя — туберкулёз, хотя до самого конца Шолом Алейхем выказывает несокрушимую энергию и неиссякаемую жажду творчества, постоянно устраивая творческие гастроли с публичными чтениями и устными выступлениями. В 1914, как русский подданный, был выслан из Германии. Перебирается в Нью-Йорк, где прожил последние годы жизни. Скончался от туберкулёза в 1916 году в Нью-Йорке, похоронен на Старом кладбище (Old Mount Carmel) в Квинсе (Нью-Йорк, США). Внучка Шолом Алейхема — американская писательница и педагог Бэл Кауфман.
Почтовая марка СССР, 1959 год
Шолом-Алейхем на марке Израиля, выпущенной к столетию писателя
Шолом-Алейхем на марке Украины. Гашение «автограф» в день его рождения и в месте его рождения, 18.02.2009
Гашение первого дня «чтец», Киев, 2009 год