Родился 12 (24) февраля 1892 года в Саратове в семье владельца писчебумажного магазина. С детства был увлечён писательством. Не желая идти «в коммерсанты», не раз убегал из дома. В 1911 году всё же поступил в Московский коммерческий институт. В 1914 году был направлен в Германию для усовершенствования немецкого языка. Начало Первой мировой войны (1914—1918) застало и задержало Федина в Германии. В качестве гражданского пленного имел возможность жить и работать в разных городах страны, был на разных работах, в том числе актёром.
Вернувшись в Россию в конце 1918 года, Федин попал в город Сызрань Симбирской губернии. В феврале 1919 года организовал и редактировал литературно-художественный журнал «Отклики», сотрудничал в газетах: «Известия Сызранских Советов», «Алый путь», «Сызранский коммунар». В Сызрани написал свои первые рассказы: «Счастье» и «Дядя Кисель». Последний был премирован в Москве на конкурсе «РОСТА» и обратил на себя внимание А. М. Горького. В Сызрани писатель почерпнул обширный материал для последующего творчества. В романе «Города и годы» черты старой Сызрани показаны в изображённом уездном городе Семидоле. Написанный в 1921 году рассказ «Сад» также навеян сызранскими впечатлениями. События романа «Необыкновенное лето» разворачиваются на Волге в 1919 года. «Восемь месяцев сызранской жизни заняли большое место в моей писательской судьбе», — так впоследствии отозвался Федин о пребывании в Симбирской губернии.
С 1921 года участник литературной группы «Серапионовы братья». Заграничные впечатления и поиски «Серапионов» в области «сюжетонаполнения» во многом определили характер первого романа Федина «Города и годы» (1922—1924). Роман интересен не столько изображением революции и Гражданской войны, сколько формой изображения событий, данных не в хронологической, а в обратной последовательности.
В 1927 году принял участие в коллективном романе «Большие пожары», публиковавшемся в журнале «Огонёк».
В 1933—1935 годах Федин работает над романом «Похищение Европы» — первым в советской литературе политическим романом.
В романе «Санаторий „Арктур“» (1940) использовал тему «Волшебной горы» Томаса Манна в пропагандистских целях, противопоставив «здоровый» СССР «гнилому» Западу.
Академик АН СССР (1958). Первый секретарь (1959—1971) и председатель правления Союза писателей СССР (1971—1977). Участвовал в травле Б. Л. Пастернака и высылке А. И. Солженицына.
Закончил творческий путь классиком советской литературы (трилогия «Первые радости» (1945), «Необыкновенное лето» (1947) и «Костёр» (1961)).
Книги «Писатель, искусство, время» (1957) и «Горький среди нас» (1941—1968).
К. А. Федин похоронен в Москве на Новодевичьем кладбище (участок № 9).
Именем Константина Федина названа одна из площадей Саратова, а также улицы в Москве (Северное Измайлово) и Чебоксарах.