С 1920 по 1923 годы учился в трех ростовских университетах, откуда неизменно отчислялся «по происхождению». В 1920—1922 годах одновременно учился в художественной школе имени Врубеля.
В 1924 году переехал на жительство в Армению и поступил на архитектурное отделение технического факультета Ереванского университета, которое окончил в 1928 году.
С 1939 по 1951 год занимает должность главного архитектора Еревана.
В 1951—1955 годах — заместитель начальника управления по делам архитектуры при Совете Министров Армянской ССР.
С 1955 года и до конца своих дней — директор республиканского проектного института «Армпромпроект».
Лауреат Сталинской премии СССР 1951 года за проект здания ЦК КП Армении (1949) и Государственной премии Армянской ССР 1971 года за создание в 1950-е-60-е ансамбля площади Ленина в Ереване.
В Ереване им были созданы многие административные постройки, жилые дома, музеи. Жемчужиной творчества Марка Григоряна считается здание хранилища древних рукописей — Матенадарана (1959).
Награждён орденом Ленина, орденом «Знак Почёта» и медалями.
Журналист Марк Григорян является внуком архитектора Марка Григоряна.