Точных данных о месте и времени его рождения нет. По одним сведениям, родился в Португалии в 1673 или 1674 году. По другим сведениям, родился в 1682 году в Амстердаме, в бедной еврейской семье, переехавшей в Голландию из Португалии. (Последняя версия считается более аргументированной.) После смерти отца поступил юнгой на голландский флот. В 1697 году ещё юношей был привезён Петром I в Россию, служению которой посвятил всю свою жизнь.
В июле 1708 года — ротмистр, осенью того же года повышен в чине до майора, а чуть позже — до подполковника гренадерского полка. В июле 1711 года получил вместе с Павлом Ягужинским чин генерал-адъютанта, который был специально для них учреждён.
Девиер был влюблён в старшую сестру Меншикова, Анну Даниловну. Меншиков Девиера не любил, и когда тот попросил руки его сестры (Анна уже ждала первенца), сильно разозлился и избил Девиера. Девиер пожаловался Петру и тот приказал Меншикову отдать его сестру замуж за Девиера. Свадьба состоялась в июле 1712 года.
12 ноября 1715 года Пётр отправил Девиера в Ревель руководить строительством морского порта.
27 мая 1718 года был назначен первым петербургским генерал-полицмейстером, ведал всеми вопросами городского хозяйства. Девиер формально подчинялся Сенату и генерал-губернатору Меншикову, но фактически — самому Петру. Первоначально штат полиции состоял из заместителя генерал-полицмейстера, 4 офицеров и 36 нижних чинов. Делопроизводство в Главной полицмейстерской канцелярии вели дьяк и десять подьячих. Новая структура не только следила за порядком в городе, но и выполняла ряд хозяйственных функций, занималась благоустройством города — мощением улиц, осушением болотистых мест, уборкой мусора и т. п. Стараниями Девиера в 1721 году в столице были поставлены первые фонари и скамейки для отдыха. Была организована пожарная служба. Кроме того, полиция обладала полномочиями судебной инстанции и имела возможность назначать наказания по уголовным делам.
В июне 1718 году Девиер участвовал в следствии по делу царевича Алексея Петровича, наряду с другими подписал ему смертный приговор.
6 января 1725 года Девиер был произведён в генерал-майоры. После смерти Петра I активно выступал за передачу власти императрице Екатерине I. 21 мая 1725 года награждён орденом Св. Александра Невского. 24 октября 1726 года возведён в графское достоинство, 27 декабря того же года пожалован чином генерал-лейтенанта.
В 1727 году по поручению императрицы он совершил поездку в Курляндию, поводом для которой стали жалобы курляндцев на Меншикова, пытавшегося всеми правдами и неправдами завладеть герцогским престолом. Доклад императрице был не в пользу Меньшикова. Позже в этом же году Девиер активно выступил против намерений Меншикова выдать свою дочь Марию за наследника престола Петра Алексеевича (будущий император Пётр II). Этот эпизод ещё больше обострил неприязнь Меншикова к своему зятю, и 24 апреля 1727 года в присутствии «светлейшего» Девиер был взят под караул. По указу 27 мая 1727 года обвинён в намерении устранить от наследования престола Петра II и в попытках воспрепятствовать выполнению духовного завещания императрицы Екатерины I, лишён дворянства и титула, чинов, имений, бит кнутом и сослан в Сибирь.
В Петербурге Девиер владел участком на берегу Безымянного ерика (ныне река Фонтанка), на котором сейчас находится Аничков дворец. После ареста Девиера в 1727 году участок был конфискован. Жене Девиера с детьми было велено «жить в деревнях своих, где она пожелает». Анна Даниловна выбрала села Торхово Тульского уезда и Поветкино Веневского уезда, умерла и похоронена в родовом склепе села Поветкино. Имения перешли во владение к старшему сыну — Петру Антоновичу.
Двенадцать лет провёл Девиер в Жигановском зимовье в 800 верстах от Якутска. Первоначально компанию ему составлял бывший комендант Санкт-Петербурга Григорий Скорняков-Писарев, назначенный в 1731 году за нехваткой под рукой грамотных специалистов сборщиком ясака в Охотск.
Однако на Скорнякова постоянно шли жалобы от местных жителей, и в конце концов императрица Анна Иоанновна решила заменить его «добрым и совестным человеком». Подходящей кандидатурой сочли Девиера. 13 апреля 1739 года он был назначен начальником Охотского порта. Описав и распродав имущество своего предшественника, Девиер выплатил гарнизону задолженное за несколько лет жалование. Энергичными темпами он закончил снаряжение Второй Камчатской экспедиции Беринга, завершил строительство Охотского порта и попутно основал школу, превратившуюся впоследствии в Штурманское училище сибирской флотилии. 1 декабря 1741 года последовал именной указ императрицы Елизаветы Петровны об освобождении Девиера из ссылки «с отпущением вины». Указ пришёл в Охотск в июне 1742 года, и в начале следующего года Девиер прибыл в Петербург. Высочайшим указом от 14 февраля 1743 года Девиеру были возвращены ордена и графский титул, а также поместье в Валуйском уезде Белгородской губернии с 1600 душами крестьян.
15 июля 1744 года Девиер был произведён в генерал-аншефы, а 17 декабря 1744 года был вновь назначен генерал-полицмейстером Санкт-Петербурга. Однако преклонный возраст и тяжелые испытания дали знать о себе многочисленными болезнями. 24 апреля 1745 года заболевший Девиер удалился в отставку «вплоть до выздоровления». Но выздоровление так и не наступило. 24 июня (6 июля) 1745 года он скончался и через три дня был похоронен на Лазаревском кладбище Александро-Невской лавры (могила не сохранилась).