Учился в Императорской академии художеств, в качестве пенсионера Черноморского войска, и закончил её в 1832, с званием классного художника и с малой золотой медалью, присужденной ему за «проект духовной семинарии». В следующем году, за исполнение другой программы: «Проект усадьбы богатого помещика», был удостоен большой золотой медали и вскоре после этого отправлен за границу.
В Европейской Турции и в Греции изучал памятники преимущественно византийского церковного зодчества, в Риме занимался реставрацией форума Траяна и, проведя вообще за границей шесть лет, вернулся в Санкт-Петербург в 1840. За работы, исполненные им во время этого путешествия, ему было присвоено звание академика, из которого он через год был повышен в профессоры, за проект здания для медико-хирургической академии с клиниками и другими строениями.
После этого Кузьмин служил старшим архитектором при гоф-интендантской конторе и, в этой должности, возвёл немало построек для дворцового ведомства, среди которых несколько корпусов для Императорских конюшен, перестроил и расширил Гатчинский дворец, участвовал в перестройке Певческой капеллы (1857) и соорудил городской собор в Гатчине.
Самыми главными зданиями Кузьмина, в которых ярко выразились его художественный вкус и знание архитектурных стилей, признаются церковь при русском посольстве в Афинах, православный собор на улице Дарю в Париже, греческая посольская церковь в Санкт-Петербурге (при участии арх. Ф. Б. Нагеля; не сохранилась) и роскошный дом, выстроенный в стиле Возрождения для Утина там же, на Конногвардейском бульваре. Последним его сооружением была мраморная часовня у Летнего сада.