Сын графа Платона Ивановича (1698—1745), которого Пётр Великий называл «племянником» (Анна Иоанновна его сослала в Соловецкий монастырь, с «наказанием кнутом, урезанием языка и лишением имения» — безвинно). Мать — княжна Марфа Петровна Черкасская.
В тринадцатилетнем возрасте в 1747 году был записан в гвардию, участвовал в Семилетней войне, затем секунд-майором Конной гвардии принимал участие в возведении на престол императрицы Екатерины II, за что в день её коронации, пожалован в камер-юнкеры, получил часть конфискованных имений отца и 600 душ вновь. В 1769 году произведен в действительные камергеры.
За участие в русско-турецкой войне, в Крымской армии князя В. М. Долгорукого, своего тестя, награжден орденом св. Георгия 3 степени, а при заключении мира получил Александровскую звезду и чин генерал-поручика. 28 июня 1782 года, по случаю двадцатилетия восшествия на престол Екатерины II произведен в генерал-аншефы. В 1783 году пожалован в генерал-адъютанты.
Назначенный состоять при Великом Князе Павле Петровиче, сумел заслужить его расположение, несмотря на то, что пользовался милостями и Екатерины II, говорившей, что она ему «персонально обязана». В 1786 году был назначен вице-президентом Военной коллегии и получил Андреевскую ленту, а в 1787 году назначен в Совет Императрицы.
В следующем году, когда началась война с Швецией, Екатерина назначила его, за неимением лучшего, главнокомандующим хотя сама всегда была весьма невысокого мнения о его способностях и называла его «нерешимым мешком». Лично храбрый, граф Мусин-Пушкин оказался негодным полководцем и на этот раз заслужил от Государыни эпитет «сущего болвана». Тем не менее, граф Мусин-Пушкин получил за Шведскую кампанию золотую шпагу, орден св. Владимира 1 степени и алмазы к Андреевской звезде, пока в 1790 году не был заменен графом И. П. Салтыковым, который имел у Императрицы также нелестную репутацию: «Плут и упрям». При Павле I граф Мусин-Пушкин был назначен шефом Кавалергардов.
Отличаясь более чем скромными способностями, граф Мусин-Пушкин был человек добрый и ласковый, но слабохарактерный, нерешительный и доступный чужому влиянию. Блистая полным отсутствием талантов, он обладал, однако, всецело одним — уменьем уживаться со всеми сильными людьми при дворе и искусно улавливать господствующее здесь течение. Этому таланту царедворца он и был обязан своей блестящей карьерой.
Похоронен под Трапезной церковью в Симоновом монастыре.
Был женат на дочери князя Долгорукого-Крымского, Прасковье Васильевне (1754—1826), статс-даме, кавалерственной даме ордена св.Екатерины меньшого креста.
В браке имел сына и дочь.