В 1770 году участвовал в русско-турецкой войне в качестве командира Ростовского карабинерного полка, где отличился при штурме Бендер и взятии приступом Перекопских высот и города Кафы. В 1780 году произведён в генерал-поручики. В 1784 году де Бальмен назначен директором Сухопутного шляхетского (1-го кадетского) корпуса. С 1786 по 1789 годы был генерал-губернатором Курского и Орловского наместничества. 20 ноября 1786 года за беспорочную службу 25 лет в офицерских чинах награждён орденом св. Георгия 4-й степени (№ 445 по списку Григоровича—Степанова).
С мая по октябрь 1790 года, во время войны с Турцией, был назначен командиром корпуса на Кавказ, где после неудачной экспедиции генерала Ю. Б. Бибикова к Анапе дела находились в крайне плохом состоянии. Бальмен прибыл на Кавказ совершенно больным чахоткой и 4 октября 1790 года скончался в Георгиевске. Среди прочих наград Бальмен имел орден св. Александра Невского.