Родился в Минске в семье бухгалтера Арона Нахмановича Шварцмана и домохозяйки Рахили Соломоновны Шварцман. В семье говорили на идише. В 1941 окончил школу при Институте живописи, скульптуры и архитектуры и был призван в армию. В годы Великой Отечественной войны работал на танковом заводе в Челябинске. В 1951 окончил ВГИК с дипломом художника-постановщика мультфильмов. С 1948 работал на киностудии «Союзмультфильм», с 1951 — как художник-постановщик (до 1963 в соавторстве с А. В. Винокуровым), с 1975 — как режиссёр.
Работал как в рисованной, так и в кукольной анимации, преимущественно — с режиссёрами Л. К. Атамановым, Р. А. Качановым, И. В. Уфимцевым, И. С. Аксенчуком.
Ряд работ Шварцмана удостоились международных наград. К этим работам относятся анимационные фильмы: «Золотая антилопа», «Варежка», «Снежная королева», «38 попугаев», «Обезьянки». Кроме того, Шварцман известен тем, что как художник-постановщик принимал участие в создании визуального образа Чебурашки для мультфильма Романа Качанова «Крокодил Гена» (1968 г.).
Впоследствии Чебурашка стал также талисманом Олимпийской сборной России на летних Олимпийских Играх 2004 года в Афинах.
Участник многих выставок, в том числе — персональных, иллюстрирует детские книги. Выдвигался на Ленинскую и Сталинскую премии. Обладатель американской награды «Голливуд — детям» и приза «За вклад в профессию» на XI ОРФАК в Суздале (2006).Член Академии кинематографических искусств «Ника». Член АСИФА.
Леонид Шварцман - переученный левша, однако рисует всё же левой рукой.