Родился в 1797 году. В 1815 году выпущен из Дворянского полка прапорщиком в 16-й (впоследствии 43-й) егерский полк, расположенный на Кавказе.
В 1824 году был произведён в майоры и переведён в Ширванский полк.
В 1826 году под личным начальством генерала А. П. Ермолова участвовал в совершенном истреблении аула Урус-Мартан, за что награждён орденом святой Анны 4-й степени с надписью «за храбрость».
В 1828 году Козловский был назначен сопровождать в Санкт-Петербург горский полуэскадрон, с которым в 1831 году принял участие в походе против польских инсургентов и отличился при штурме Варшавы.
В следующем году вернулся на Кавказ, где и провел после этого 26 лет.
С 1834 года в чине подполковника служил в Тифлисском полку, с 21 февраля 1841 по 23 февраля 1847 года командовал знаменитым Кабардинским полком и с ним дважды в 1843 году (под крепостью Внезапной и на берегах реки Акташа у деревни Андреевой) разбил Шамиля и в 1845 году участвовал в знаменитой экспедиции князя Воронцова в Дарго; в 1851 году взял штурмом Шалинские окопы. 3 декабря 1839 года за беспорочную выслугу 25 лет в офицерских чинах награждён орденом св. Георгия 4-й степени (№ 6041 по списку Григоровича—Степанова).
В 1853 году Козловский назначен был командующим войсками на Кавказской линии и в Черноморье. Когда при начале Крымской войны готовилось поголовное восстание горцев на всём Кавказе, Магомет Амин со значительными силами двинулся к Карачаю, где должен был встретить множество единомышленников. Козловский бросился за ним и перед самым Карачаем наголову разбил скопища горцев, несмотря на то, что имел всего три батальона. Затем он с невероятной быстротой устроил колесную дорогу в Карачай и таким образом предупредил дальнейшее развитие восстания.
По окончании Крымской войны в 1856—1857 годах строил укрепления на новой линии по Малой Лабе и в 1857 году, несмотря на отчаянное сопротивление горцев, 25 мая построил Майкопское укрепление на реке Белой.
В 1858 году по расстроенному здоровью покинул Кавказ и назначен членом генерал-аудиториата военного министерства; последний год жизни был членом Александровского комитета о раненых. Умер 16 января 1873 года.
Генерал М. Я. Ольшевский в своих «Записках» дал следующий портрет Козловского: