Родился в д.Духовщина Смоленской губернии.
С 1929 года начал работу радиожурналистом.
Автор многих повестей и рассказов, связанных с военными событиями, в том числе с обороной Ленинграда, в котором он провёл первую, самую трудную блокадную зиму 1941/42 гг.
20 марта 1953 года фактически к окончанию так называемого «Дела врачей» журнал «Крокодил» опубликовал фельетон Ардаматского «Пиня из Жмеринки». Фельетон был расценен как антисемитский, а сам Ардаматский, по некоторым свидетельствам, получил прозвище «Пиня».
Негативное отношение российских писателей к Ардаматскому проявилось также во время выборов в правление Союза московских писателей. Евгений Евтушенко сказал по этому поводу:
Кандидатура Ардаматского была снята с обсуждения.
Отмечен многочисленными советскими литературными премиями, в том числе и премией КГБ СССР в области литературы и искусства.
Умер 20 февраля 1989 года на 78-м году жизни. Похоронен в Москве на Кунцевском кладбище.