Дебютировал в марте 1973 года.
Был спарринг-партнером Мохаммеда Али при подготовке его 3-го боя с Джо Фрейзером.
В марте 1978 года в элиминаторе разгромил по очкам известного нокаутера Эрни Шейверса.
В июне 1978 года раздельным решением судей победил чемпиона мира по версии WBC Кена Нортона.
В 1978 году Холмс успешно защитил свой титул, победив Альфредо Евангелисту и Осси Окассио.
В июне 1979 года Ларри Холмс встретился с Майком Уивером. В конце 11-го раунда Уивер прижал Холмса в угол. Холмс левым встречным аперкотом послал Уивера в тяжелый нокдаун. Уивер встал на счет 8, однако его шатало. Его спас гонг — рефери не стал останавливать бой. В 12-м раунде Холмс сразу же пошёл в атаку, загнал Уивера в угол и начал избивать. Рефери прекратил бой.
С 1979 по 1980 годы Холмс успешно защитил свой титул, победив во 2-й раз Эрни Шейверса, Лоренцо Зэнона, непобежденного Лероя Джонса и Скотта Делюкса.
В октябре 1980 года Холмс встретился с Мохаммедом Али. Он избивал своего противника весь бой. Угол Али не выпустил своего бойца на 11-й раунд.
В апреле 1981 года Холмс уверенно победил Тревора Бербика.
В июне 1981 года Ларри Холмс вышел на ринг против Леона Спинкса. Спинкс уступал по физическим параметрам, однако постоянно шёл вперёд, выступив в качестве агрессора. В середине 3-го раунда Холмс зажал претендента у канатов и обрушил град ударов в голову. Спинкс, пропустив кучу ударов, рухнул на канвас. Спинкс с трудом поднялся на счёт 9. Рефери позволил ему продолжить бой. Холмс сразу же зажал Спинкс в углу и продолжил избиение. Через несколько секунд из угла Спинкса (претендент был зажат именно в этом углу) выбросили полотенце, и рефери прекратил поединок.
С 1981 по 1983 годы Холмс успешно защитил свой титул, победив непобежденного Рейнальдо Снайпса, непобежденного Джерри Куни, Рэнделла Текса Кобба, Люсьена Родригеса, непобежденного Тима Уизерспуна и непобежденного Скотта Фрэнка.
В 1983 году Ларри Холмс из-за денег поссорился с WBC. Он был лишен титула.
В ноябре 1983 года Холмс победил непобежденного Марвиса Фрейзера, являющего сыном Джо Фрейзера.
В 1984 году для Холмса придумали новую версию — IBF. За счёт того, что Холмс был доминирующим тяжеловесом в начале и середине 1980-х годов, IBF смогла раскрутиться до статуса WBC и WBA.
В ноябре 1984 года Холмс встретился с Джеймсом «Бонкрашером» Смитом. В бою Смит получил рассечение. В середине 12-го раунда рефери приостановил бой. Бойцы разошлись по углам. Рефери насильно, схватив за руку, отвел претендента к врачу. По совету доктора бой остановили. Холмс победил техническим нокаутом.
В 1984 году Холмс успешно защитил свой титул, выиграв у Дэвида Бея.
В мае 1985 года Ларри Холмс победил непобежденного Карла Уильямса. До рекорда Рокки Марчиано было рукой подать.
В сентябре 1985 года Ларри Холмс встретился с абсолютным чемпионом мира в полутяжелом весе Майклом Спинксом. Спинкс отомстил за своего брата Леона Спинкса, победив по очками Холмса.
В апреле 1986 года состоялся реванш между Холмсом и Майклом Спинксом. На этот раз Холмс выглядел лучше, но судьи спорным раздельным решением посчитали победителем Спинкса.
В январе 1988 года Холмс вышел на бой против Майка Тайсона. Тайсон избивал Холмса и нокаутировал его в 4-м раунде.
В феврале 1992 года Холмс победил непобежденного Рэя Мерсера.
В июне 1992 года Холмс в бою за звание абсолютного чемпиона мира в тяжелом весе проиграл Эвандеру Холифилду.
В апреле 1995 года Холмс вышел на бой против чемпиона мира по версии WBC Оливера Маккола. В близком бою победу присудили чемпиону.
В январе 1997 года Холмс отправился в Данию, где раздельным решением уступил местному непобежденному бойцу Брайану Нильсену.
В июне 1999 года Ларри во второй раз встретился с Джеймсом «Бонкрашером» Смитом Холмс вновь оказался сильнее победив Смита нокаутом в восьмом раунде и тем самым отправил Джеймса на пенсию.
В ноябре 2000 года Холмс встретился с 48-летним экс-чемпионом мира по версии WBA Майком Уивером.Это был их второй бой спустя 21 год. Реванша не получилось. Холмс вновь победил нокаутом на этот раз в шестом раунде. После этого поражения Уивер на ринге больше не появлялся.
В июле 2002 года 53-летний Холмс вышел на бой против Эрика «Баттербина» Эша. Холмс победил по очкам и оставил ринг.