Родился 23 февраля 1950 года в городе Каган Узбекской ССР в семье военнослужащего. В 1956 году семья Тоцких переехала в город Елец Липецкой области, где Константин закончил десятилетку.
В 1967 году поступил в Московское высшее пограничное командное училище имени Мосовета КГБ при Совете Министров СССР, по окончании которого в 1971 году, получил назначение в Северо-Западный пограничный округ на должность заместителя начальника заставы Аллакуртинского пограничного отряда. Через несколько месяцев Константин стал начальником восьмой пограничной заставы Мурманского пограничного отряда.
В 1974 году поступил на факультет пограничных войск Военной академии имени М. В. Фрунзе, по окончании которой старший лейтенант К. В. Тоцкий проходил службу в Тихоокеанском пограничном округе. С 1977 по 1980 год в должности коменданта участка Южно-Сахалинского погранотряда. В 1980 году на протяжении трёх месяцев служил офицером 1-го отдела штаба Тихоокеанского пограничного округа КГБ СССР во Владивостоке, затем год — заместителем начальника штаба Южно-Сахалинского пограничного отряда. В 1981—1985 годах был начальником штаба Находкинского пограничного отряда.
С 1985 по 1988 год майор — начальник Хорогского пограничного отряда Среднеазиатского пограничного округа в Таджикистане на границе с Афганистаном. Принимал участие в боевых операциях против моджахедов на территории Афганистана.
С ноября 1989 по 1991 год был начальником Ленкоранского пограничного отряда в Азербайджане. В 1991 году был назначен на должность заместителя начальника штаба Закавказского пограничного округа. В 1994 году, после окончания Военной академии Генерального штаба Вооружённых Сил Российской Федерации, был назначен начальником штаба Северо-Западного пограничного округа. В декабре того же года ему присвоили звание генерал-майора.
С 1996 года — начальник Академии Федеральной пограничной службы России. С сентября 1998 по март 2003 год был директором Федеральной пограничной службы России. С января 2001 года по должности директора ФПС входил в состав созданного по Указу Президента РФ Оперативного штаба по управлению контртеррористическими действиями в Северо-Кавказском регионе. В марте 2003 года был освобождён от должности директора ФПС, переданной в подчинение ФСБ России.
В мае 2003 года назначен на пост Постоянного представителя России при НАТО. Указом Президента Российской Федерации от 5 февраля 2007 года К. В. Тоцкому присвоен дипломатический ранг Чрезвычайного и Полномочного Посла. 9 января 2008 года К. В. Тоцкий был освобождён от обязанностей Постоянного представителя России при НАТО.
В июле 2009 года назначен на должность заместителя руководителя Росприроднадзора.
Супруга — Надежда Петровна (1950 года рождения), по профессии агрохимик. Дочери: Алла Константиновна (1974 года рождения) и Елена Константиновна (1981 года рождения).
Константин Васильевич — болельщик московского футбольного клуба «Торпедо»