Будущий художник родился в Елисаветграде (сейчас — Кировоград) 8 декабря 1892 года в семье служащего почтово-телеграфной конторы. Первым наставником юного Александра стал стал художник-передвижник Ф. Козачинский, преподававший в рисовальных классах при Елисаветградском земском реальном училище.
В 1910 году А. Осмёркин поступает в Петербургскую школу Общества поощрения искусств при Академии (класс Н. Рериха), где учится год. В 1911 году поступает в Киевское художественное училище. В 1913 году А. Осмеркин отправляется в Москву, в школу И. Машкова, а с 1914 года уже участвует в выставках «Бубнового валета» — группы московских живописцев, которых именовали «русскими сезанистами». Судьба художника отныне связана с Москвой и Петроградом. В круг его знакомых входят С. Есенин, О. Мандельштам, А. Ахматова, П. Кончаловский, А. Лентулов.
С 1918 по 1948 год активно работал как педагог: Свободные художественные мастерские (Высшие художественно-технические мастерские, ВХУТЕМАС), Ленинградская Академии художеств, Московский художественный институт имени В. И. Сурикова. Его учениками были такие известные в будущем художники и педагоги, как С. И. Осипов, Г. А. Савинов, Е. П. Скуинь, О. Б. Богаевская, В. К. Тетерин, Л. Н. Орехов и другие.
В 1947 году Александр Осьмеркин был вынужден отказаться от активной преподавательской деятельности и участия в выставках в связи с выдвинутым против него обвинением в формализме и пропаганде западных веяний.
Умер Александр Осмеркин 25 июня 1953 года в Москве.