Саша Чёрный родился в многодетной еврейской семье провизора, агента торговой фирмы. Чтобы дать ребёнку возможность поступить в житомирскую гимназию, родители крестили его. В гимназии Александр проучился недолго. Мальчик сбежал из дома, стал нищим-попрошайкой. О его горестной судьбе написали в газете, и житомирский чиновник К. К. Роше, растроганный этой историей, взял мальчика к себе. К. К. Роше, много занимавшийся благотворительностью и любивший поэзию, оказал на Александра большое влияние.
С 1901 по 1902 год Александр Гликберг служил рядовым в учебной команде 20-го пехотного полка, затем работал в Новоселицкой таможне.
1 июня 1904 года в житомирской газете «Волынский вестник» напечатан его «Дневник резонёра» за подписью «Сам по себе».
В 1905 году переезжает в Петербург, где публикует принесшие ему известность сатирические стихи в журналах «Зритель», «Альманах», «Журнал», «Маски», «Леший» и др. Как писал Корней Чуковский: «…получив свежий номер журнала, читатель, прежде всего, искал в нем стихи Саши Чёрного».
Первое стихотворение под псевдонимом «Саша Чёрный» — политическая сатира «Чепуха», напечатанное 27 ноября 1905 года, привело к закрытию журнала «Зритель». Поэтический сборник «Разные мотивы» был запрещен цензурой.
В 1906—1908 годах жил в Германии, где продолжил образование в Гейдельбергском университете.
Вернувшись в Петербург в 1908 году, сотрудничает с журналом «Сатирикон», выпускает сборники стихов «Всем нищим духом», «Невольная дань», «Сатиры». Публикуется в журналах «Современный мир», «Аргус», «Солнце России», «Современник», в газетах «Киевская мысль», «Русская молва», «Одесские новости». Становится известным как детский писатель: книги «Тук-Тук», «Живая азбука» и другие.
В годы Первой мировой войны Саша Черный служил в 5-й армии рядовым при полевом лазарете и работал как прозаик.
Издал сборник прозы «Несерьезные рассказы» (1928), повесть «Чудесное лето» (1929), детские книги: «Сон профессора Патрашкина» (1924), «Дневник фокса Микки» (1927), «Кошачья санатория» (1928), «Румяная книжка» (1930), «Белка-мореплавательница» (1932).
В 1929 году приобрёл участок земли на юге Франции, в местечке Ла Фавьер, построил свой дом, куда приезжали и где подолгу гостили русские писатели, художники, музыканты.
Саша Чёрный скончался от сердечного приступа 5 августа 1932 года. Рискуя жизнью, он помогал в тушении пожара на соседней ферме, придя домой, слёг и больше не поднялся.
Похоронен на кладбище Лаванду, департамент Вар.
Могила поэта была утеряна после боевых действий Второй мировой войны.
Детей у поэта не было.
В начале 1960-х годов благодаря стараниям Корнея Чуковского — однотомники Саши Черного были изданы в Большой и Малой сериях Библиотеки поэта.
В 1933 г. посмертно изданы книги «Солдатские сказки» и «Белка-мореплавательница».