Аким Козлов окончил рабфак Ленинградской консерватории в 1933 году по классу Петра Волкова. Затем он продолжил обучение в самой консерваторию в классе Евгения Рейхе. В 1938 году он окончил Ленинградскую консерваторию, а в 1947 — аспирантуру.
Более пятидесяти лет (С 1937 по 1989 год) Козлов был солистом ? концертмейстером группы тромбонов ЗКР симфонического оркестра Ленинградской филармонии под руководством Евгения Мравинского.
С 1946 по 1970 год Аким Козлов преподавал в Ленинградской консерватории. В 1958 году ему было присвоено звание доцента, в 1967 — профессора. С 1970 по 1985 год он продолжал преподавательскую деятельность в Петорозаводском филиале Ленинградской консерватории, а с 1986 года — в Ленинградском государственном институте культуры им. Н. К. Крупской. Среди учеников Козлова Виктор Венгловский , Борис Виноградов, Алексей Евтушенко.
6 января 2009 года в Петербурге состоялся концерт, посвящённый столетию со дня рождения Акима Козлова. В концерте приняли участие симфонический оркестр Санкт-Петербургской филармонии под управленим Василия Петренко и македонский пианист Симон Трпчески.
По мнению народного артиста СССР дирижёра Натана Рахлина, творчество Акима Козлова способствовало значительному расширению роли тромбона в симфоническом оркестре. Благодаря ему и другим представителям «…орлиной стаи тромбонистов-виртуозов…», оркестровые тромбоновые партии изменились в сторону большей технической виртуозности и «…виолончельной певучести…». Об исполнительской манере самого Козлова Рахлин писал следующее:
.
Родители Акима Козлова смоленский крестьянин Алексей Дементьевич Козлов и его жена Евдокия Ивановна имели большую семью. Алексей Дементьевич умел играть на гармони и любил устраивать самодеятельные концерты вместе со своими детьми.
Жена Акима Козлова Антонина Ефимовна не была музыкантом. Их сын контрабасист Борис Акимович Козлов был женат на арфистке Татьяне Лазаревне Тауэр. Внучка Анастасия Козлова (скрипачка). Правнучка Варвара Де Хаан.