Шолом Холявский родился в городе Лида в 1914 году. До начала Второй мировой войны работал учителем в еврейской школе «Культура» в Несвиже, которая была частью сети школ сионистских организаций в Польше.
17 сентября 1939 года в Несвиж вошла Красная армия. Западная Белоруссия была присоединена к СССР. Преподавание на иврите было запрещено. Преподаватели и учащиеся школы включая Холявского создали подпольную библиотеку и продолжали тайное обучение. Все они были членами сионистской организации Хашомер-Хацаир.
27 июня 1941 года в Несвиж вошли немецкие войска. В Несвиже было создано еврейское гетто. 30 октября 1941 года нацисты убили 4000 евреев — узников гетто.
Во время немецкой оккупации Холявский возглавил подполье и восстание в Несвижском гетто, а после подавления восстания и гибели гетто присоединился к партизанам.
В 1948 году он эмигрировал в Израиль и стал историком. В 1977 году он защитил в Еврейском университете в Иерусалиме первую в истории диссертацию по Холокосту на территории Белоруссии — «Еврейское подполье и гетто Западной Белоруссии во время Второй мировой войны».