Член РКП(б) с 1918 года. Исключен из партии после ареста по делу врачей 16 декабря 1952 года.
Родился в бедной крестьянской семье. По национальности — белорус. Окончил три класса сельской церковно-приходской школы. Трудовую деятельность начал с тринадцати лет: чернорабочий у помещика, землекоп на железной дороге, чернорабочий на бумажной фабрике в Екатеринославе.
В марте 1915 года был призван на военную службу. Служил в 167-м Острожском пехотном полку, в 251-м запасном пехотном полку. За храбрость в боях Первой мировой получил Георгиевский крест. В дни Октябрьской революции будучи в звании унтер-офицера вместе со взводом перешёл на сторону Советской власти.
В ноябре 1917 года он поступил на службу в московскую милицию. С февраля 1918 года — в Красной Армии, участник боёв на Южном фронте под Царицыным, был помощником командира роты в 33-м рабочем Рогожско-Симоновском пехотном полку.
В сентябре 1919 года был переведен в органы ВЧК, работал под непосредственным руководством Ф. Э. Дзержинского в центральном аппарате, был сотрудником особого отдела, старшим уполномоченным активного отделения оперативной части. С мая 1926 года стал старшим уполномоченным Оперативного отделения ОГПУ, с января 1930 года — помощник начальника отделения там же.
С мая 1943 года — начальник 6-го управления наркомата госбезопасности СССР, с августа 1943 года — первый заместитель начальника этого управления. С апреля 1946 года — начальник Главного управления охраны Министерства госбезопасности СССР (с декабря 1946 года — Главное управление охраны).
В мае 1952 года был снят с должности начальника охраны Сталина и направлен в уральский город Асбест заместителем начальника Баженовского исправительно-трудового лагеря МВД СССР.
16 декабря 1952 года в связи с делом врачей был арестован, поскольку он «обеспечивал лечением членов правительства и отвечал за благонадежность профессуры».
17 января 1953 года Военная коллегия Верховного Суда СССР признала его виновным в злоупотреблении служебным положением при особо отягчающих обстоятельствах, приговорив по ст. 193-17 п. «б» УК РСФСР к 10 годам ссылки, лишению генеральского звания и государственных наград. Направлен для отбывания ссылки в Красноярск. По амнистии 27 марта 1953 года срок Власику был сокращен до пяти лет, без поражения в правах. Постановлением Президиума Верховного Совета СССР от 15 декабря 1956 года Власик был помилован со снятием судимости. В воинском звании и наградах восстановлен не был.
28 июня 2000 года постановлением Президиума Верховного Суда России приговор 1955 года в отношении Власика отменен и уголовное дело прекращено «за отсутствием состава преступления».
Власик долгие годы был личным телохранителем Сталина и дольше всех продержался на этом посту. Придя в его личную охрану в 1931 года, он не только стал её начальником, но и перенял многие бытовые проблемы семьи Сталина, в которой по существу Власик был членом семьи. После смерти жены Сталина Н. С. Аллилуевой он был также воспитателем детей, практически выполнял функции мажордома.
Власик крайне негативно оценивается Светланой Аллилуевой в «20 письмах к другу».
В своих воспоминаниях Власик писал:
По словам жены, Власик до самой своей смерти был убежден, что Сталину «помог» умереть Л. П. Берия.