Окончил исторический факультет Ленинградского государственного университета в 1949, аспирантуру Ленинградского государственного университета. Кандидат исторических наук (1953, тема диссертации: «Американская агрессия на Тихом океане в 60—70-х годах XIX столетия)»). Доктор исторических наук (1970).
Ученик Б. А. Романова. С 1953 преподавал на кафедре истории Ленинградского библиотечного института. С 1955 — в Ленинградском отделении Института истории АН СССР (ныне — Санкт-Петербургский институт истории РАН): младший научный сотрудник, старший научный сотрудник, ведущий научный сотрудник, главный научный сотрудник. По совместительству профессор факультета истории ЕУСПб (1996—2006), исторического факультета СПбГУ (с 2007 г.)
Научные интересы: история России конца XIX — начала XX вв., историография, источниковедение, история русско-еврейской интеллигенции, история еврейской исторической науки в Российской империи и СССР.
При его участии переиздан первый том воспоминаний С. Ю. Витте (1960), выпущены в свет такие издания как «Совет министров Российской империи (1905—1906 гг.)» (Л., 1990); «Совет министров Российской империи в годы Первой мировой войны/Бумаги А. Н. Яхонтова» (СПб., 1999). Соруководитель международного проекта по выпуску академического издания мемуаров С. Ю. Витте (вышло из печати в 2003) — в рамках этого проекта рукописная и стенографическая части воспоминаний публикуются отдельно, независимо от повторения некоторых сюжетов. Исследователь в результате получает возможность сравнения различных вариантов изложения мемуаристом одних и тех же событий.
В 2000 постановлением Президиума РАН ему присуждена премия им. В. О. Ключевского за монографию «С. Ю. Витте и его время». Обладатель гранта Президента РФ на поддержку ведущей научной школы. Является научным консультантом и руководителем многочисленных диссертационных работ соискателей, докторантов и аспирантов.
Мемуарист, автор книги «Советские историки: о чём они говорили между собой. Страницы воспоминаний о 1940-х — 1970-х годах» (СПб, 2004).
Сын — артист и преподаватель академии театрального искусства Евгений Ганелин.