Родился в семье репрессированного инженера-ленинградца, в месте его ссылки.
Окончил историко-филологический факультет Тартуского университета (1968).
В 1968—1981 годах Арсений Рогинский жил в Ленинграде. Работал библиографом в Публичной библиотеке им. М. Е. Салтыкова-Щедрина, затем преподавателем русского языка и литературы в вечерних школах. Как учёный занимался историей России XX века, особенно 1920-х гг. — в частности, историей уничтожения партии эсеров и последующими политическими репрессиями.
В 1975—1981 годах составлял и редактировал самиздатские сборники исторических работ «Память», с 1978 года публиковавшиеся за границей.
4 февраля 1977 года на квартире Арсения Рогинского был проведён обыск. 16 июня 1977 года ему вынесли предупреждение по Указу Президиума ВС СССР от 25 декабря 1972 г. После повторного обыска (6 марта 1979 года) он был по требованию КГБ уволен из школы, в которой работал. В 1979—1981 годах, чтобы избежать обвинения в «тунеядстве», Арсений Рогинский оформился на службу в качестве литературного секретаря писательницы Н. Г. Долининой и профессора Я. С. Лурье. В апреле 1981 года Рогинскому было настоятельно предложено эмигрировать из СССР, однако он этого не сделал.
В 1981 году арестован, приговорен к 4 годам лишения свободы по ложному обвинению в подделке документов. В качестве последнего слова на суде произнёс речь «Положение историка в Советском Союзе» (была опубликована газетой «Русская мысль»). Отбыл срок полностью; в 1985 году освобождён, в 1992 году полностью реабилитирован.
В 1988—1989 гг. стал одним из основателей историко-просветительского, правозащитного и благотворительного общества «Мемориал», с 1998 года — председатель его правления.
Составитель книги «Воспоминания крестьян-толстовцев. 1910—1930-е годы» (М.: Книга, 1989).