Родился в Петрограде.
В 1939 году окончил Юридический институт им. В. Н. Крыленко.
В 1939 — 1949 гг. — следователь, затем прокурор Парголовского района Ленинградской области, прокурор Приморского района Ленинграда, начальник следственного отдела городской прокуратуры Ленинграда.
В первые месяцы Великой Отечественной войны — комиссар рабочего отряда.
В 1949 — 1957 гг. — работает в Институте криминалистики (Москва), где занимается научной и преподавательской деятельностью.
В 1953 году защищает кандидатскую диссертацию на тему «Расследование хищений в учреждениях банка».
С 1957 года — старший помощник Генерального Прокурора СССР, заместитель начальника следственного управления Прокуратуры СССР.
С 1961 года — начальник отдела по надзору за рассмотрением в судах уголовных дел Прокуратуры СССР, член коллегии Прокуратуры СССР.
С 1962 по 1970 годы — заместитель Председателя Верховного Суда СССР.
С 1970 по 1984 годы — Министр юстиции СССР (первый министр после воссоздания этого ведомства в 1970 г.). При В. И. Теребилове в должности министра юстиции СССР и под его непосредственным руководством был разработан и принят ряд важных правовых актов (в частности, Закон СССР «Об адвокатуре», Положение о Министерстве юстиции СССР), а также началась работа над изданием Собрания действующего законодательства СССР (50 томов) и Свода законов СССР (11 томов).
С 1984 по 1989 годы — Председатель Верховного Суда СССР.
Депутат Верховного Совета СССР 8—9-го созывов.
После выхода на пенсию (1989 г.) и до конца жизни — доцент юридического факультета МГУ им. М. В. Ломоносова.
Являлся членом Совета отечественных министров юстиции, почётным членом Московского клуба юристов.
Скончался в Москве в 2004 году. Похоронен на Новодевичьем кладбище.
Член КПСС с 1940 года.
С 1971 по 1976 годы — заместитель председателя Центральной ревизионной комиссии КПСС.
С 1976 по 1986 годы — кандидат в члены ЦК КПСС.
Член ЦК КПСС в 1986 — 1990 годах.
В. И. Теребилов, будучи депутатом ВС СССР от Узбекской ССР, попал в поле зрения группы Т. Х. Гдляна и Н. В. Иванова, расследовавшей т. н. «Узбекское» («хлопковое») дело.
Подозрения в коррупции в отношении В. И. Теребилова возникли на основании показаний бывшего первого секретаря ЦК КП Узбекистана И. Б. Усманходжаева, который на следствии заявил:
Позднее обвинения в адрес В. И. Теребилова не подтвердились, но с поста Председателя Верховного Суда СССР он был вынужден уйти на пенсию.
Входил в состав редакционной коллегии Свода законов СССР, являлся главным редактором многотомного Собрания действующего законодательства СССР.