В 1944 году возглавлял советскую делегацию на конференции в усадьбе Думбартон-Окс (г. Вашингтон, США) по созданию ООН. Участвовал в подготовке и проведении Ялтинской конференции (1945), конференции в Потсдаме (1945). В том же году руководил делегацией, подписавшей Устав ООН от имени СССР на конференции в Сан-Франциско. В 1985 году выдвинул М. С. Горбачёва на должность руководителя КПСС.
Андрей Громыко родился 5 июля 1909 г. на Гомельщине, в деревеньке Старые Громыки. Всё население носило такую же фамилию, поэтому каждая семья, как это нередко бывает в белорусских сёлах имела родовое прозвище. Семью Андрея Андреевича называли Бурмаковыми. Происходили Бурмаковы из бедного белорусского шляхетского рода, большая часть которого во времена Российской империи была переведена в податные сословия крестьян и мещан. В официальных биографиях указывалось крестьянское происхождение и то, что его отец был крестьянином, работавшим на заводе. Белорус по происхождению, хотя в официальной справке члена ЦК КПСС значился русским. С 13 лет ходил с отцом на заработки. После окончания 7-летней школы учился в профессионально-технической школе в Гомеле, затем — в Староборисовском сельскохозяйственном техникуме (д. Староборисов Борисовского района Минской области). В 1931 г. стал членом ВКП(б) и сразу был избран секретарём партийной ячейки. Все последующие годы Громыко оставался активным коммунистом, никогда не сомневающимся в верности марксистской идеологии.
В 1931 год поступил в экономический институт в Минске, где познакомился со своей будущей женой Лидией Дмитриевной Гриневич, тоже студенткой. В 1932 г. у них родился сын Анатолий.
После окончания двух курсов Громыко назначен директором сельской школы недалеко от Минска. Продолжать обучение в институте ему пришлось заочно.
В это время в судьбе Громыко произошёл первый поворот: по рекомендация ЦК компартии Белоруссии его вместе с несколькими товарищами приняли в аспирантуру при Академии наук БССР, создававшуюся в Минске. После защиты диссертации в 1936 год Громыко направили в Всесоюзного научно-исследовательского института экономики сельского хозяйства в Москве в качестве старшего научного сотрудника. Затем Андрей Андреевич стал учёным секретарём Института экономики Академии наук СССР.
С 1939 года — в Наркомате иностранных дел (НКИД) СССР. Громыко являлся протеже наркома иностранных дел Вячеслава Молотова. По версии, изложённой Алфёрову Д. А. Жуковым, когда Сталин читал предложенный Молотовым список научных сотрудников — кандидатов на дипломатическую работу, то, дойдя до его фамилии, сказал: «Громыко. Хорошая фамилия!».
В 1939 году — заведующий Отделом американских стран НКИД. Осенью 1939 в карьере молодого дипломата начался новый этап. Советскому руководству понадобился свежий взгляд на позицию США в начавшемся европейском конфликте. Громыко вызвали к Сталину. Генеральный секретарь заявил о своём намерении назначить Андрей Андреевича советником при посольстве СССР в США. С 1939 до 1943 года — советник полпредства СССР в США. Дружеских отношений с советским послом в США Максимом Литвиновым у Громыко не сложилось. К началу 1943 Литвинов перестал устраивать Сталина, и его должность занял Громыко. С 1943 до 1946 года Громыко был послом СССР в США и одновременно посланником СССР на Кубе.
В 1945 Громыко участвовал в работе Ялтинской и Потсдамской конференции. Также он принимал активное участие в создании Организации Объединённых наций (ООН).
С 1946 до 1948 года — постоянный представитель СССР при ООН (при СБ ООН). В этом качестве Андрей Андреевич разрабатывал Устав ООН, а затем от имени советского правительства поставил свою подпись под этим документом.
С 1946 до 1949 года — заместитель Министра иностранных дел СССР. Уже в те времена журнал «Time» отмечал «умопомрачительную компетенцию» Андрея Андреевича. С 1949 по июнь 1952 года — 1-й заместитель Министра иностранных дел СССР.
С июня 1952 до апреля 1953 — посол СССР в Великобритании.
После смерти Сталина главой МИД вновь стал Вячеслав Молотов, который отозвал Громыко из Лондона. С марта 1953 года до февраля 1957 года — вновь 1-й заместитель Министра иностранных дел СССР.
С 1952 до 1956 года — кандидат, с 1956 до 1989 года — член ЦК КПСС; с 27 апреля 1973 года до 30 сентября 1988 года — член Политбюро ЦК КПСС.
Доктор экономических наук (1956 год).
В 1957—1985 годах — Министр иностранных дел СССР. 28 лет Громыко руководил советским внешнеполитическим ведомством. Андрей Громыко внес вклад и в процесс переговоров по контролю над гонкой вооружений как обычных, так и ядерных. В 1946 году от имени СССР Громыко выступил с предложением о всеобщем сокращении и регулировании вооружений и о запрещении военного использования атомной энергии. При нем было подготовлено и подписано немало соглашений и договоров по этим вопросам — Договор 1963 года о запрещении ядерных испытаний в трех средах, Договор 1968 года о нераспространении ядерного оружия, Договоры по ПРО 1972 года, ОСВ-1, а также Соглашение 1973 года о предотвращении ядерной войны.
Жёсткий стиль дипломатических переговоров Молотова сильно повлиял на соответствующий стиль Громыко. За неуступчивую манеру вести дипломатические переговоры А. А. Громыко получил у западных коллег прозвище «Господин Нет» (ранее такое прозвище было у Молотова). Сам Громыко заявлял по этому поводу, что «Я их „Ноу“ слышал гораздо чаще, чем они моё „Нет“».
С марта 1983 года Андрей Громыко одновременно являлся первым заместителем Председателя Совета Министров СССР. В 1985—1988 — Председатель Президиума Верховного Совета СССР (после избрания М. С. Горбачева Генеральным секретарем ЦК КПСС на пост министра иностранных дел СССР был назначен Э. А. Шеварднадзе, а А. А. Громыко была предложена должность Председателя Президиума Верховного Совета СССР). Таким образом, была нарушена установившаяся в 1977—1985 традиция совмещать должности Генерального секретаря ЦК КПСС и Председателя Президиума Верховного Совета СССР. Громыко оставался на посту Председателя Президиума Верховного Совета СССР до осени 1988 года, когда по его просьбе был освобождён.
В 1946—1950 и 1958—1989 — депутат Верховного Совета СССР. С октября 1988 — на пенсии.
В 1958—1987 году главный редактор журнала «Международная жизнь».
Громыко увлекался охотой, коллекционировал ружья.
.