Родился в Митилене в бедной семье, сперва занимался риторикой, но впоследствии стал преданным учеником Эпикура, который назначил его своим преемником в управлении философской школой «Сад» (ок. 270 г. до н. э.) Гермарх умер в преклонном возрасте от паралича, показав себя способнейшим человеком. Цицерон приводит письмо Эпикура, адресованное Гермарху.
Согласно Диогену Лаэртскому, Гермарх автор следующих трактатов:
Сочинения Гермарха не сохранились, известно, что его работы были направлены против философии Платона, Аристотеля и Эмпедокла. Отрывок из его Против Эмпедокла был процитирован Порфирием при рассмотрении вопроса о необходимости законов в обществе. Также на его воззрения о природе богов ссылается Филодем.