Воспитывался в 3-й гимназии Санкт-Петербурга и с детства выказывал художественные способности. Начальными познаниями своими был обязан живописцу В. М. Аврорину, не обладавшему выдающимися способностями. В дальнейшем А. Г. Венецианов способствовал определению Зарянко в вольноприходящие ученики Императорской Академии художеств и сделался сам руководителем его в живописи. Своею специальностью Зарянко избрал вначале перспективную живопись. Получив в продолжение академического курса две серебряные медали, малую и большую, он был удостоен в 1838 г. звания неклассного художника, после чего продолжал писать преимущественно перспективные виды.
В 1843 г. за картину «Внутренность Морского Никольского собора» получил звание академика. Переселившись вскоре после этого в Москву, занимался там исполнением образов для разных церквей и преподаванием рисования. Перейдя в Санкт-Петербург, впервые серьёзно принялся за портретную живопись. На академической выставке 1849 г. были выставлены два великолепных портрета его работы, генерала Ломновского и певца О. Петрова, принесшие ему сразу громкую известность в публике. В 1850 г. за портреты графа Ф. П. Толстого и ротмистра Хвостова Академия присудила ему звание профессора.
В 1856 г. он начал работать в Московском училище живописи, ваяния и зодчества инспектором и старшим профессором живописи. Эти должности Зарянко занимал до смерти.
Как наставник в Московском училище живописи и ваяния, Зарянко много способствовал развитию молодых художников, из которых некоторые достигли потом почётной известности, например: В. Г. Перов, И. М. Прянишников, В. Пукирев, В. И. Шервуд и Л. Ф. Жодейко.
Вышедшие из-под его кисти портреты замечательны по необычайно сильной лепке, превосходной передаче освещения, тщательной разработке подробностей даже в аксессуарах и по точному воспроизведению лиц, впрочем, больше внешнего их вида, чем в отношении внутреннего содержания. Всего написано им до сотни портретов, из которых, кроме вышеупомянутых четырёх, считались наиболее достойными внимания несколько портретов цесаревича Николая Александровича и государя императора в бытность его великим князем, портреты Турчанинова, Доливо-Добровольского, князя и княгини Абамелик, г-жи Лапиковой, графа А. А. Закревского, графа И. М. Толстого, князя С. М. Голицына, П. А. Тучкова, графа С. Г. Строганова, графа П. А. Шувалова и графа В. А. Адлерберга. Из перспективных картин Зарянко образцовыми в своем роде могут считаться, кроме вида Никольского собора, доставившего ему степень академика, виды тронного зала в Зимнем дворце и зала Императорского училища правоведения, с портретами профессора и воспитанников этого заведения.
Любопытно, что Зарянко с давних пор видел только одним глазом, что не помешало ему добиться столь выдающихся успехов в живописи.