Окончил 281 среднюю школу г. Ленинграда в 1952 году, затем, в 1957 году - с отличием юридический факультет Ленинградского государственного университета. С 1958 года член Ленинградской областной коллегии адвокатов. В 1967 году защитил кандидатскую диссертацию по теме «Исполнение приговора как стадия советского уголовного процесса». В 1986 году защитил докторскую диссертацию по теме «Социологическое исследование преступности и иных антиобщественных проявлений (вопросы теории и методики)».
В конце июня 2009 года Гилинского уволили из Социологического института РАН в Санкт-Петербурге. Официально увольнение было представлено как непродление ежегодного контракта, по которому Гилинский работал в институте последнюю пару лет.
Автор свыше 450 научных публикаций, из них свыше 90 – на английском, французском, немецком, венгерском, норвежском и др. языках (в основном – по криминологии, социологии девиантности и социального контроля, а также по уголовному процессу, теории управления, общей социологии, философии).