Родился в Москве 13 ноября (26 ноября по новому стилю) 1903 года в семье юриста.
В 1920—1925 годах Пименов учился во ВХУТЕМАСе у В. А. Фаворского и С. В. Малютина. По окончании учёбы в 1925 году стал одним из учредителей Общества станковистов.
В ранний период испытал большое влияние немецкого экспрессионизма, что во многом объясняет надрывно-драматическую остроту лучших его вещей этих лет («Инвалиды войны», 1926, Русский музей; «Даешь тяжелую индустрию!», 1927; «Солдаты переходят на сторону революции», 1932; обе — в Третьяковской галерее).
С годами перешёл к обновлённому импрессионизму, исповедуя творческий принцип «прекрасного мгновения», лёгкого и артистичного образа-впечатления. Несколько полотен Пименова вошли в собрание Института русского реалистического искусства (ИРРИ).
В 1966 году подписал письмо 25-ти деятелей культуры и науки генеральному секретарю ЦК КПСС Л. И. Брежневу против реабилитации Сталина.