Сергей Калмыков родился г. Самарканд, входимшим в то время в состав Российской империи. Вскоре после его рождения семья переехала в Оренбург, где он впоследствии закончил гимназию. В 1909-1910 гг. Калмыков жил в Москве, где он посещал курсы Московской школы живописи, ваяния и зодчества (студия К.Ф. Юона), а с конца 1910 г. в Санкт-Петербурге, где он становится учеником М.В. Добужинского и К. C. Петрова-Водкина. Считается, что одна из ранних работ Калмыкова, на которой он написал красных коней, вдохновила Петрова-Водкина на создание его заменитой картины «Купание красного коня».
После Октябрьской революции в России Калмыков возвращается в Оренбруг, где работает декоратором, оформителем парадов и демонстраций, читает лекции и продолжает писать свои работы. С 1926 по 1928 он был членом оренбургского отделения АХРРа (Ассоциация Художников Революционной России), участником выставок общества «Жар-Цвет». В начале 1930-х Калмыков создавал декорации для Передвижной Оперы Фёдора Вазерского.
В 1935 г. Сергий Калмыков переехал в Алма-Ату, в то время столицу Казахской Советской Социалистической Республики, по приглашению недавно открывшегося Музыкального театра г. Алма-Аты, который позднее был стал Казахским академическим театром оперы и балета им. Абая. Он проработал в этом театре до выхода на пенсию в 1962 г., и создал большое количество театральных декорций и иллюстраций к постановкам.
Он также непрерывно создавал свои собственные работы, выработав со временем необычный и узнаваемый стиль, радикально отличавшийся от норм социалистического реализма, господствоваших в в ту эпоху СССР. Некоторые из его полотен - абстрактные, экспрессионистские композиции, другие напоминают картины сюрреалистов, а многие фантасмагоричные полотна невозможно отнести к какому-то определённому стилю. Он всё время экспериментировал с различными материалами, формами полотна (например, писал неканонические для того времени треугольные или круглые работы), часто включал текст в свои работы и почти всегда писал прямо на картине дату её создания (день, месяц и год). Он также создал несколько томов собственных "книг" (например, «Зелёная книга» или «Альбом Ван Гога и Дега»), больших альбомов с иллюстрациями и собственными текстами, зачастую чрезвычайно аллегоричными.
Калмыков часто рисовал на улицах и в парках города, особенно после выхода на пенсию, и со временем стал городской легендой из-за своих экстравагантных нарядов и экцентричного поведения (так, один из его нарядов был описан как «ярко-красный берет, синие штаны с золотыми лампасами и плащ с пришитыми к нему консервными банками, громыхавшими при ходьбе»). Он никогда не продавал своих работ и лишь изредка дарил их знакомым, а иногда и незнакомцам. По описаниям очевидцев, Калмыков не имел мебели в своей квартире и использовал вместо неё перевязанные кипы старых газет.
После выхода на пенисю в 1962 г. Калмыков постоянно испытывал материальные проблемы, очень плохо питался (по описаниям, он ел только хлеб и молоко и месяцами не ел горячей пищи), но тем не менее непрерывно создавал всё новые и новые работы. Незадолго до своей смерти он был помещён в психатрическую больницу, где вскоре умер от воспаления лёгких на фоне дистрофии. Место его захоронения неизвестно. После его смерти большинство его работ было переданы в Центральный государственный архив, а впоследствии в фонды Государственного музея искусств им. А. Кастеева.
В течение жизни Калмыков не проходил лечения в психиатрических больницах и никогда не имел какого-либо официального психиатрического диагноза (хотя его поведние, особенно в последние годы жизни, выходило за рамки социальных норм). После его смерти (и во многом на основании анализа его творчества) некоторые психиатры (например, Виктор Каган) предположили, что Калмыков страдал шизофренией с приступообразным течением (так называемыми «шубами»).
Общий объём сохранившхися работ Сергея Калмыков оценивается в 1 500 произведений разного формата, но точное их число неизвестно и оценки широко варьируются. В Государственном музее искусств им. А. Кастеева в Алматы находится более 1 100 работ, крупнейшее из известных собраний. Несколько десятков работ находятся в коллекциях Русского музея в Санкт-Петербурге и в Пушкинском музее в Москве. Довольно значительное число работ также находится в частных коллекциях, как в самом Казахстане. так и в России, США и Европе.
Первая небольшая выставка работ Сергей Калмыкова была организована вскоре после его смерти в Алма-Ате, в 1968 г., галереей им. Т. Шевченко (впоследствии реорганизованной в Государственный музей искусств им. А. Кастеева).
В 1991 г., в год празднования столетия со дня рождения Сергея Калмыкова Государственный музей им. Кастеева организовал ещё одну выставку, к открытию которой был также издан первый альбом работ Калмыкова.
В 1997 г. Республика Казахстан выпустила почтовую марку с изображением работы Калмыкова (достоинством в 25 тенге).
В 2001 г., в ходе торжеств по случаю 110-ой годовщины рождения Сергея Калмыкова Государственный музей им. Кастеева провёл самую большую на сегодняшний день выставку работ художника, пригласив к участию как государственные учреждения, так и частных коллекционеров. В различные годы также состоялись выствки работы Калмыкова в Русском музее в г. Санкт-Петербург, Музее Пушкина в Москве, некоторых частных галереях.
По сообщениям некоторых интернет-изданий, Алекс Орлов, коллеционер российского происхождения из США, организовал Фонд Сергея Калмыкова, а также опубликовал первое международное издание его работ.
В 2006 г. в Республике Казахстан праздновалось 115-летие со дня рождения художника, а в 2008 г. была выпущена коллекционная монета достоинстовом 500 тенге с изображением работы Сергея Калмыкова.
Юрий Домбровский, российских писатель, живший долгие годы в Алма-Ате, описал Сергея Калмыкова в своём романе Факультет ненужных вещей (1978).
Сергей Калмыков является главным героем романа Давида Маркиша Белый круг (2004).