Константин Зубов родился 8 (20) сентября 1888 года в селе Базарный Сызган, (ныне — Базарносызганский район Ульяновской области, Россия), (по другим данным — в Вятке.
Константин увлекался театром с юных лет, но родители, не разделяя этого увлечения, по окончании гимназии направили сына обучаться в технический институт в Нанси (Франция), где Константин должен был получить профессию инженера. Спустя год Зубов сменил место учёбы: он поступил на историко-филологический факультет Парижского университета.
В 1906 году Константин Александрович возвращается в Россию и продолжает обучение в Санкт-Петербурге, занимаясь в Петербургском университете и одновременно в Императорском театральном училище, в актёрской мастерской В. Н. Давыдова.
В 1908 году состоялся дебют Константина Зубова на театральной сцене в роли Алёши в спектакле «Дети Ванюшина» Найдёнова. Работал в театрах Самары, Харькова, Киева (1910—1915), в московском театре Корша (1915—1916).
В 1917 году впервые выступил в качестве режиссёра в Иркутском драматическом театре. С 1921 по 1924 год был режиссёром Первого Дальневосточного военно-революционного театра. С 1925 по 1931 работал в Московском театре Революции. С 1932 по 1938 год — художественный руководитель московского театра имени Ленсовета. С 1936 года Константин Александрович становится актёром и режиссёром Малого театра, а с 1947 года занимает пост главного режиссёра театра.
Творчество Константина Зубова отличала интеллектуальность, яркая театральность, психологическая глубина. Зубов был мастером диалога.
Константин Зубов занимался с 1920 года педагогической деятельностью, преподавал в Высшем театральном училище имени М. С. Щепкина. Среди его учеников Татьяна Панкова, Павел Луспекаев, Эдуард Марцевич.
Похоронен на Новодевичьем кладбище.