Вскоре после его рождения семья переехала на Кубань, где и встретила войну. Был в эвакуации в Дагестане и в Азербайджане. После окончания войны закончил обучение в средней школе. В 1951—1955 гг. учился в Крымском педагогическом институте по специальности «физика и математика». После окончания ВУЗа работал в средней школе учителем физики и математики, стал завучем. В 1966 году по совету своего учителя и друга Е. В. Веймарна поступил на исторический факультет Симферопольского педагогического института, который закончил в 1971 году. Во время учебы поступил на работу в Бахчисарайский дворец-музей, стал заведующим отделом «пещерных городов».
В 1979 году М.Я. Чореф был вынужден уйти из музея.
В предисловии к книге Михаила Яковлевича Крымские караимы. Москва: 1993. М. М. Казас писал:
По информации его сына, Михаила Михайловича, Михаил Яковлевич Чореф был сторонником теории еврейского происхождении крымских караимов, поддерживая тесные контакты с израильскими и российскими учёными, изучающими историю и культуру этого этноса. М.Я. Чореф был хорошо знаком с Д. Шапира, М. Эзра, Н.В. Кошовской и др. Однако в своих работах по этому вопросу был вынужден учитывать точку зрения лидеров местной караимской общины, хотя и считал её ошибочной. Был одним из авторов «Караимской народной энциклопедии» и издававшейся в Москве газеты «Караимские вести», на страницах которой проявил себя как поэт.