Родился в Москве, сын философа А. И. Рубина. В 1940 году поступил на исторический факультет Московского университета, в июне 1941 записался добровольцем в ополчение. Первый бой у Ельни — окружение и плен, после трёх дней пребывания в котором бежал и вернулся в Москву. В 1942 году поступил в Артиллерийское училище в Томске, но был исключён. Работал на угольной шахте.
C 1944 по 1948 находился в туберкулёзных больницах и санаториях. В 1948 возобновил учёбу в Московском университете. В 1951 окончил исторический факультет Московского университета; специализировался по древней истории Китая. Преподавал русский язык китайским студентам в Институте сельского хозяйства в Новочеркасске Ростовской области (1951—1952), затем работал референтом по литературе о Китае, в том числе на китайском языке, в Фундаментальной библиотеке общественных наук АН СССР в Москве (1953—1968). В 1960 году защитил кандидатскую диссертацию по теме «Цзо цжуань как источник по социальной истории периода Чуньцю». С 1969 по 1972 работал старшим научным сотрудником в Институте востоковедения АН СССР.
В феврале 1972 года вместе с семьей подал документы на выезд в Израиль и в связи с этим был вынужден оставить работу, но только в 1976 получил разрешение на выезд. Участник диссидентского движения, член первого состава Московской Хельсинкской группы.
С 1976 года по 1981 работал профессором Иерусалимского университета; преподавал историю китайской политической мысли и философию Древнего Китая. Погиб в автомобильной катастрофе.