В боксе дебютировал в октябре 1996 года. В июле 2002 года Кармазин проиграл Хавьеру Кастильехо. В апреле 2005 года Кармазин в элиминаторе победил Кита Холмса. В июле 2005 года россиянин победил чемпиона мира в первом среднем весе по версии IBF Кассима Оуму. После победы Кармазин не выходил на ринг целый год. В июле 2006 года он проиграл в близком бою Кори Спинксу.
В ноябре 2007 года Кармазин вышел на бой против мексиканца Алехандро Гарсии. В середине 3-го раунда Кармазин двумя левыми хуками в печень послал противника в нокаут. Поединок проходил в рамках шоу, организованного телеканалом Showtime, главным событием которого был бой Рикардо Майорга — Фернандо Варгас.
В январе 2008 года состоялся бой между Романом Кармазиным и Алексом Бунема. В начале 10-го раунда Бунема провёл левый хук в челюсть, и россиянин опустился на настил. Это был 1-й нокдаун Кармазина в карьере. Однако восстановиться после него Роман не смог. В середине 10-го раунда конголезец провёл левый хук в челюсть. Кармазин оказался в углу, и Бунема провёл серию ударов, отправив Романа на настил во второй раз. Рефери начал было отсчитывать нокдаун, но видя, как тяжело приходит в себя Кармазин, прекратил поединок. Поединок проходил в рамках шоу, организованного телеканалом HBO, главным событием которого был бой Рой Джонс — Феликс Тринидад.
20 декабря 2008 года Кармазин вернулся на ринг, выиграв единогласным решением судей у бывшего чемпиона мира в первом среднем весе Бронко МакКарта. Бой проходил в среднем весе — новой для Кармазина весовой категории.
21 марта Кармазин выиграл техническим нокаутом в 7 раунде у американца Антвуна Эколса.
9 мая Кармазин одержал победу техническим нокаутом в 4 раунде над бразильцем Луисом Аугусто Лос Сантосом.
8 января Роман Кармазин завоевал право на бой за титул чемпиона мира по версии IBF, нокаутировав в 10-м раунде колумбийца Дионисио Миранду.
5 июня Кармазин свел вничью бой с чемпионом IBF из Германии Себастьяном Сильвестром. Поскольку не удалось найти спонсоров для проведения шоу в России, бой проходил в Германии, несмотря на то, что ранее команда Кармазина выиграла конкурс заявок.
Санкт-Петербургское региональное отделение Федерации профессионального бокса России ввело с 2011 года присуждение особо почетной награды для спортсменов, добившихся высоких спортивных достижений в профессиональном боксе, — Почетного диплома имени заслуженного тренера РСФСР Игоря Михайловича Лебедева. 3 февраля 2011 года первым Почетным дипломом был награждён Роман Кармазин.
Осенью 2011-го года Международная боксёрская федерация (IBF) организовала турнир, победитель которого получал статус обязательного претендента на титул чемпиона мира в среднем весе, принадлежавший на тот момент австралийцу Дениелу Гилу, и Роман Кармазин принял в нём участие. 7 октября в городе Барбанк, штат Илинойс(США), в клубе "Чикаго" он встретился с ганцем Осаману Адаму и потерпел поражение техническим нокаутом в девятом раунде.
Отец Кармазина работал штукатуром, умер в возрасте 51 года. У Романа от первой жены Галины (проживает в Уральске) есть сын (род. 1995). От второй жены Натальи — двое детей.