Родился в 1753 году в семье флотского трубача. Получил воспитание в Санкт-Петербургской академии художеств, в которой его ближайшими наставниками были профессора Н. Ф. Жилле и А. П. Лосенко. По окончании курса в 1772 году, став пенсионером академии, был отправлен в Рим (с 1774 по 1779 год) и в Париж (с 1779 по 1780 год).
Вернувшись в Россию в 1782 году, за скульптурную группу «Юпитер с Ганимедом», вылепленную за границей, был признан назначенным в академики. C 1788 по 1797 год находился снова в Париже, где ему было поручено надзирать за пенсионерами, отправленными туда академией художеств. В 1794 году возведён в звание академика, как художник, уже доказавший свою талантливость и познания предшествовавшими трудами, а вслед за тем повышен и в звание профессора. С 1794 года до конца своей жизни преподавал скульптуру в академии. Умер в 1802 году.
Среди учеников Козловского наиболее известны С. С. Пименов, В. И. Демут-Малиновский.
Скульптура Самсона в центральном фонтане парка Петергоф
Памятник Суворову на Суворовской площади в Санкт-Петербурге
Амур
«Яков Долгорукий, сжигающий царский указ». 1796. ГТГ
1793 — 18.09.1802 года — 1-я линия, 16.