Окончил Санкт-Петербургскую консерваторию (1871), ученик Карла Давыдова. С 1877 г. — первая виолончель в оркестре Итальянской оперы в Петербурге. В 1882—1885 гг. в оркестре Мариинского театра. Концертировал как солист и в составе камерных ансамблей: трио с Александром Михаловским и Станиславом Барцевичем, трио с Анной Есиповой и Леопольдом Ауэром, квартета Санкт-Петербургского отделения Русского музыкального общества с Ауэром, Иваном Пиккелем и Иеронимом Вейкманом.
С 1887 г. преподавал в Санкт-Петербургской консерватории, с 1890 г. — профессор. Среди учеников Вержбиловича — Дмитрий Бзуль, Семён Козолупов, Евгений Вольф-Израэль, Леопольд Ростропович.