Константин Яковлевич Листов родился в Одессе в семье цирковых артистов. С пятилетнего возраста учился музыке (на мандолине) и сам выступал на арене. С детства полюбил море; позднее он много песен посвятил морю и морякам.
В 1917 году закончил музыкальное училище Русского музыкального общества в Царицыне.
В 1918—1919 годах служил в Красной армии.
В 1919—1922 годах обучался в Саратовской консерватории по классу фортепиано и композиции. Одновременно работал пианистом и дирижёром в Саратовском театре миниатюр.
В 1923 году переехал в Москву, работает в театре при Всероссийском Пролеткульте, пишет музыку к спектаклям.
С 1925 года — музыкальный руководитель театра «Синяя блуза».
С 1934 года — музыкальный руководитель и дирижёр Театра обозрений Дома печати. Написал музыку к нескольким спектаклям театра.
С 1930-х годов началась слава Листова как первоклассного композитора-песенника. Он был также великолепным пианистом, выступал с концертами.
С 1938 года — дирижёр в Московском Театре оперетты.
В годы войны — музыкальный консультант Главного политуправления Военно-Морского Флота. За работу в эти годы награждён орденом Красной Звезды и медалями.
В 1973 году Листову было присвоено звание «Народный артист РСФСР».
Умер композитор 6 сентября 1983 года.
Правнучка — Елизавета Листова, российский тележурналист.
Один из учеников Н. А. Рославца, Константин Листов писал музыку к радиопостановкам и спектаклям, к кинофильму «Победный маршрут» (1939), различные оркестровые инструментальные произведения. Но главным направлением его таланта была массовая песня.
Всего Константин Листов создал более 600 песен. Они отличаются яркой мелодичностью, задушевным лиризмом.
В 1930-е годы большой популярностью пользовались песни:
В военные годы Листов служил музыкальным консультантом Политуправления Военно-Морского Флота. Среди написанных им песен всенародно любимой стала песня на стихи А. Суркова «В землянке» (1942).
В послевоенные годы появились новые замечательные песни Листова, в том числе: