Весной 1990 года посетил с официальным визитом Народную Демократическую Республику Йемен.
В 1990 году избран народным депутатом РСФСР.
Оборонное ведомство появилось в структуре власти РСФСР в соответствии с законом «О республиканских министерствах и государственных комитетах РСФСР» от 14 июля 1990 года. Ведомство называлось Государственный комитет РСФСР по общественной безопасности и взаимодействию с Министерством обороны СССР и КГБ СССР.
После соучастия советских войск в попытке переворота в Вильнюсе 13 января 1991 года Председатель Верховного Совета РСФСР Б. Н. Ельцин заявил, хотя и в вопросительной форме, что России может быть придется создавать собственную армию (или национальную гвардию). 31 января 1991 года Государственный комитет РСФСР по общественной безопасности и взаимодействию с Министерством обороны СССР и КГБ СССР был преобразован в Госкомитет РСФСР по обороне и безопасности, который возглавил К. И. Кобец. 5 мая 1991 года этот Госкомитет был разделен на Госкомитет РСФСР по делам обороны и КГБ РСФСР. При формировании нового Правительства 30 июля 1991 Государственный комитет РСФСР по делам обороны переименован в Государственный комитет РСФСР по оборонным вопросам.
Должность Министра обороны впервые была введена в РСФСР 20 августа 1991 года временно до восстановления в полном объёме деятельности конституционных органов государственной власти и управления. Министром обороны РСФСР в тот же день назначен генерал-полковник Константин Иванович Кобец, поскольку он стал самым высокопоставленным военачальником, с первого дня событий августовского путча стоявшим на стороне Б. Н. Ельцина. 24 августа 1991 года ему присвоено воинское звание генерал армии. Уже 9 сентября 1991 года должность Министра обороны РСФСР была упразднена.
10 сентября 1991 года назначен Государственным советником РСФСР по обороне и членом Государственног Совета РСФСР С сентября по декабрь 1991 года одновременно Председатель Комитета по подготовке и проведению военной реформы при Государственном Совете СССР. 25 марта 1992 года освобождён от должности Государственного советника и направлен в распоряжение Главнокомандующего ОВС СНГ маршала авиации Е. И. Шапошникова.
4 апреля 1992 распоряжением Президента России № 158-рп создана Государственная комиссия по созданию Министерства обороны, армии и флота России. Председателем комиссии назначен советник Президента Д. А. Волкогонов, заместителями — П. С. Грачев, А. А. Кокошин, К. И. Кобец и Ю. В. Скоков.
С сентября 1992 года — Главный военный инспектор Вооружённых Сил Российской Федерации; одновременно с июня 1993 года — заместитель, а с января 1995 года — статс-секретарь — заместитель Министра обороны Российской Федерации.
В мае 1997 года генерал армии Кобец был снят с должности, уволен из Вооружённых Сил и арестован по обвинению в получении взятки и незаконном хранении оружия. Перед арестом генерала часто называли одним из наиболее вероятных кандидатов на должность Министра обороны РФ. С другой стороны, его имя постоянно было в центре различных коррупционных скандалов. Коммунисты и ультра-националисты его сильно не любили за приверженность курсу президента Ельцина: в августе 1991 года Кобец руководил обороной «Белого дома», а в октябре 1993 года, наоборот, подавлял «беспорядки в Москве». В 1998 году Кобец признал свою вину и был освобождён из-под стражи под подписку о невыезде. В 2000 году его дело прекращено по амнистии, после чего Кобец заявил о недействительности сделанного им ранее признания своей вины.