На восьмом году пожалован комнатным стольником во дворец; делил с отцом ссылку в Пустозёрск и Мезень (1676—1682) и едва не поплатился жизнью в Стрелецком бунте 1682 года. Получил тщательное воспитание, знал иностранные языки, говорил ло-латыни; за границей с большим уважением отзывались о его образованности. Под пару Матвееву была и его жена. Сохранился (в рукописи) перевод Матвеева «Анналов» Барония, сделанный в 1690-х гг.
С 1691 по 1693 годы Матвеев воеводствовал в Двинском крае. Был чрезвычайным и полномочным посолом при голландских Штатах (1699—1712), где его сопровождал Курбатов П. и австрийском дворе (1712—1715).
В 1705 году Матвеев ездил в Париж для заключения (несостоявшегося) торгового договора с Францией, а в 1707—1708 годах — в Лондон, хлопотать о посредничестве между Швецией и Россией и отклонять англичан от признания Станислава Лещинского польским королем. Оскорбление, нанесенное Матвееву в Лондоне арестом по жалобе кредитора, вызвало дипломатические осложнения, как нарушение международного права (позже, в феврале 1710 года, английский посол Уитворт от имени своей королевы принес официальные извинения Петру I по этому делу).
Граф с 1715 года, сенатор и президент юстиц-коллегии с 1719 года, президент Московской сенатской конторы с 1724 года, Матвеев вышел в отставку в 1727 году.
В последние годы жизни, быть может — под влиянием запросов Шафирова, которому императрица Екатерина поручила написать историю Петра Великого, Матвеев составил описание Стрелецкого бунта 1682 года, вместе с кратким и неполным изложением последующих событий до 1698 года включительно. Книга написана витиеватым, деланным языком, с латинским строем речи, изобилует галлицизмами; освещение событий довольно пристрастное: на действия царевны Софьи и её партии наложены слишком тёмные краски, Нарышкины и особенно отец автора не в меру возвеличены. Сочинение Матвеева издано в «Собрании записок о Петре Великого» (М., 1787, Туманского, I, 111—229, полностью, без имени автора, и VI, 8-54, 86-97, отрывками, с именем автора), «Маяке» (1841, XIV; издатель не знал, чей труд он публикует) и «Записках русских людей» (СПб., 1841, изд. Сахарова)
Его дочь Мария Андреевна Матвеева была замужем за Александром Ивановичем Румянцевым и стала матерью великого полководца Румянцева-Задунайского, по слухам, рождённого ею не от мужа, а от Петра Великого.
Матвеев был ярким представителя русских «западников». Приезжавшие а Россию иностранцы отзывались о нем одобрительно. К примеру, француз де ла Невилль, называющий Матвеева «мой друг Артамонович», пишет: «Этот молодой господин очень умен, любит читать, хорошо говорит на латыни, очень любит новости о событиях в Европе и имеет особую склонность к иностранцам». При этом Матвеев оставался религиозным человеком. В Гааге он основал первую русскую православную миссию при отечественном дипломатическом представительстве за границей. Священника для нее было указано подобрать Афанасию Холмогорскому. Московская домовая церковь Матвеева по оценке иностранцев была необыкновенно хороша и богата образами, серебряными вещами и другими украшениями.