Александр Малышкин родился 9 (21) марта 1892 года в селе Богородском Мокшанского уезда Пензенской губернии. Его отец служил приказчиком в лавке, принадлежавшей мокшанскому купцу и писателю-народнику В. П. Быстринину. По рассказам Анны Георгиевны Малышкиной, родной сестры писателя: «Нас в семье было детей семь человек, дед наш был из зажиточных мужиков, а отец перебрался в город Мокшан и купил пекарню, где пёк калачи и продавал их по копейке пара». О своём детстве Малышкин рассказывает в романе «Люди из захолустья»: «Мы были бедные, мы происходили из курносого, застенчивого простонародья, и я был первый в нашем роду, которого отец дерзнул послать в гимназию, на одну скамейку с господами».
В 1916 году Малышкин окончил филологический факультет Петроградского университета. Уже во время учёбы в университете (в 1913—1915 годах) пишет реалистические рассказы об уездной жизни (публикации в журналах «Современный мир», «Наша заря», «Весь мир», «Свободный журнал» и др.).
После окончания университета Малышкин был призван в армию, досрочно произведен в прапорщики и направлен в Севастополь, в действующий Черноморский флот. С 1918 по 1920 годы участвовал в Гражданской войне на Восточном, Туркестанском и Южном фронтах; принимал участие в операциях по овладению Крымом.
Входил в литературную организацию «Перевал». Был одним из руководителей Всерососсийского союза советских писателей, членом редколлегии журнала «Новый мир». Жил в Москве в знаменитом «Доме писательского кооператива» (Камергерский переулок, 2).
Жена Вера Малышкина, сын Георгий (Юрий) Александрович Малышкин, в 18 лет погиб на Курской дуге, командир взвода танков.
Известность Малышкину принесла написанная в 1923 году повесть «Падение Даира» — одна из первых в советской литературе попыток осмыслить народный характер революции.
Широкое читательское признание принёс незаконченный из-за ранней смерти роман «Люди из захолустья» (1937—1938), явившийся вершиной творчества писателя. В романе тщательно разработана тема перевоспитания людей в процессе послереволюционных преобразований. «Малышкин обращается к требовавшейся тогда сверху теме первой пятилетки и перевоспитания людей, но сознательно сосредоточивает свое внимание не на машинах и промышленном производстве, а на людях.» Также стали известными повести «Февральский снег» и «Севастополь».
В ранних произведениях Малышкина чувствовалось влияние Лескова и Достоевского. Для рассказов характерна сказовая манера, позволявшая передать атмосферу уездного быта, воссоздать точные реалии обстановки и одновременно дать представление о характерах героев, типажах, воссоздать образный, разговорный язык.
Повесть «Падение Даира» была воспринятая современниками как новаторское произведение: она была основана на реальных событиях (битва за Перекоп), в текст включены документы того времени, сводки штаба, но по стилю близка к былинному повествованию, к эпосу, к лиро-эпической поэме. Здесь Малышкин задавался целью выдвинуть на первый план массы как единственно действенный фактор истории, пренебрегая индивидуализацией образов. Это произведение, написанное под влиянием Б. Пильняка, в поэтически-экспрессивной форме говорит о спонтанной активности безымянных людских масс.