Происходил из дворян Екатеринославской губернии. Жена — Антонина Васильевна.
Окончил реальное училище (1892), Николаевское инженерное училище (1895) (ныне Военный инженерно-технический университет), Николаевскую инженерную академию (1902).
После окончания училища служил в 1-й Уссурийском железнодорожном батальоне в Восточной Сибири. Затем учился в академии, а, завершив обучение, под руководством подполковника (будущего генерала) А. П. Шошина участвовал в инженерных работах в крепости Ломжа, спроектировал, по его собственной оценке «удачный и оригинальный» проект соединявшей форты крепостной ограды.
Во время русско-японской войны в чине капитана служил военным инженером в крепости Порт-Артур, являлся одним из самых активных участников инженерных работ, проектирования и строительства оборонительных сооружений. Награждён орденом св. Георгия 4-й степени (1905)
После окончания войны, в 1906 году был назначен членом комиссии по приведению в порядок Приамурского военного округа, занимался инспекцией Владивостокской крепости, многие его предложения были использованы при разработке плана усиления этой крепости в 1910 году.
С октября 1907 года — репетитор Николаевской инженерной академии и училища (ныне Военный инженерно-технический университет), член Военно-исторической комиссии при Главном управлении Генерального штаба (ГУГШ) по описанию действий русско-японской войны. Член главного крепостного комитета Военного министерства. С 1909 года — штатный преподаватель Николаевской инженерной академии и училища. В 1909 года выступил против плана военного министра В. А. Сухомлинова по ликвидации крепостей Новогеоргиевск, Варшава, Ивангород и Загреж близ западной границы России.
Автор многочисленных работ по военно-инженерной проблематике, в том числе книг «Оборона Порт-Артура» (В двух частях; СПб, 1908—1910, в соавторстве с Ю. Д. Романовским), «Влияние данных борьбы за Порт-Артур на устройство сухопутных крепостей» (СПб., 1910). Автор новых идей в области крепостного строительства. Публиковал статьи в «Инженерном журнале», «Военном голосе», «Русском инвалиде», ряд его работ были переведены на иностранные языки. Входил в состав редакции «Военной энциклопедии».
С началом Первой мировой войны, в августе 1914 года был назначен комендантом Ивангородской крепости, осенью 1914 года успешно руководил её обороной от германских и австро-венгерских войск (противник не смог взять крепость, а после контрнаступления русских войск был вынужден отступить), после чего Шварц был произведён в генерал-майоры и награждён Георгиевским оружием.
Заслуги Шварца высоко оценил император Николай II, посетивший Ивангород в октябре 1914 и сказавший: «Как мне приятно смотреть на вас: на вашем лице отражается чувство исполненного долга».
В июле 1915 года вновь успешно оборонял Ивангород от войск противника, отразив двухнедельный штурм крепости. В связи с общим отступлением русской армии, получив соответствующий приказ, организованно эвакуировал гарнизон крепости и его имущество (в том числе орудия крепостной артиллерии), а затем организовал взрыв укреплений. При этом сам Шварц считал эвакуацию преждевременной, считая необходимым продолжение обороны.
С ноября 1915 года — комендант Карсской крепости, с июля 1916 — начальник Трапезундского укрепрайона. Отличился в боях на Кавказском фронте во время наступления под командованием генерала Н. Н. Юденича. После Февральской революции 1917 года был назначен начальником Главного военно-технического управления (22 марта 1917), а в августе того же года произведён в генерал-лейтенанты.
После прихода к власти большевиков вступил в красные вооружённые формирования для того, чтобы бороться против германских войск. До заключения Брестского мира занимал пост военного руководителя Северного участка завесы и Петроградского района. Затем был вызван Л. Д. Троцким в Москву, но, не желая служить в Красной армии, в марте 1918 года вместе с женой выехал на Украину. Жил в Киеве, после свержения гетманского режима в конце 1918 года переехал в Одессу.
В марте 1919 года французское командование назначило его военным генерал-губернатором Одессы и командующим всеми русскими войсками в Одесском районе и выслало из города воинских начальников, назначенных командованием Вооружённых сил Юга России. Шварц принял должность без согласования с командованием Вооружённых сил Юга России. Причинами перемен в русском командовании, возможно, стали разочарование французов в эффективности белого движения, а также европейская известность генерала как военного инженера. Действия французов и генерала Шварца через голову генерала А. И. Деникина вызвали протест последнего; представители Добровольческой армии в Одессе также не признали назначения Шварца. В апреле 1919 года французские войска эвакуировались из Одессы. Шварц выехал вместе с ними в Константинополь.
В эмиграции жил в Италии и во Франции, опубликовал на французском языке воспоминания о обороне Ивангорода (в 1969 они были изданы в Париже на русском языке под названием «Ивангород в 1914-15 гг. Из воспоминаний»).
В 1923 году выехал в Аргентину, где в течение многих лет был профессором фортификации в Escuela Superior le Guerra (аналог Академии Генерального штаба) и Curso superior del Collego Militar (аналог Инженерной и Артиллерийской академий). Одним из его учеников был будущий президент Аргентины Хуан Доминго Перон.
В 1924 году издал на испанском языке начатое ещё в Париже исследование «Крепости до, во время и после войны», в котором анализировал историю штурмов и обороны Льежа, Намюра, Антверпена, Новогеоргиевска и Ковно во время Первой мировой войны. В 1926 году опубликовал также на испанском языке капитальный труд «Прошлое и настоящее долговременной фортификации и её применение к обороне государства». Позднее эта книга была переведена на французский (в Париже) и русский (в СССР) языки. Был автором большого количества других научных работ. Всего опубликовал 7 томов больших научных работ по проблемам организации обороны страны, автор 25 отдельных исследований, опубликованных в аргентинских военных журналах, и десяти изобретений в военной и гражданской (дорожное строительство) сферах. Мемуарист.