Родился 19 февраля 1826 г. Воспитывался в Морском кадетском корпусе, из которого в 1841 г. выпущен гардемарином и в следующем году произведён в мичманы. При истреблении турецкой эскадры на Синопском рейде Шварц, в чине лейтенанта, числился в 33-м флотском экипаже и находился на корабле «Чесма», за отличие был награждён орденом св. Владимира 4-й степени с мечами и бантом. Во время Севастопольской обороны командовал знаменитым редутом на левом фланге 1-го отделения оборонительной линии. Этот редут являлся одним из опаснейших пунктов нашей позиции и носил имя своего командира; 6 декабря 1854 г. Шварц был удостоен ордена св. Георгия 4-й степени:
В деле 7 июня 1855 г. Шварц был контужен в голову осколком разорвавшейся бомбы, награждён золотой саблей с надписью «За храбрость». По окончании войны он командовал разными судами Балтийского флота, среди прочих — двухбашенным броненосцем «Русалка». В 1862 г. награждён орденом св. Станислава 2-й степени с короной, в 1864 г. — орденом св. Анны 2-й степени с короной и мечами, в начале 1866 г. произведён в капитаны 2-го ранга. В 1880-х годах командовал учебно-артиллерийским отрядом Балтийского моря. Позже был командиром 2-го флотского экипажа и Кронштадтским комендантом. Скончался в Санкт-Петербурге 6 марта 1896 г. в чине контр-адмирала, похоронен на Смоленском православном кладбище.