Происходил из семьи Меллер — «немецкой нации мещан лютеранского закона» и начал службу в артиллерии канониром в 1739; в 1752 был произведён в офицеры.
В 1759 в чине подполковника принял участие в Семилетней войне и в 1762 за отличие при взятии Кольберга произведён в полковники, 22 сентября 1764 года — в генерал-майоры, а 21 апреля 1773 года — в генерал-поручики.
Назначенный в 1774 присутствовать в канцелярии главной артиллерии и фортификации, скоро занял в ней первенствующее положение, и в 1783 стал исполнять обязанности генерал-фельдцейхмейстера с производством в генерал-аншефы (24.11.1783).
С началом 2-й турецкой войны (1787—1791) был вызван Потёмкиным в Екатеринославскую армию, и по его плану велись осада и штурм Очакова. Награждённый за взятие этой крепости орденами святого Андрея Первозванного и святого Георгия 2 класса.
В кампанию 1790 г. он был поставлен во главе отдельного корпуса, назначенного для взятия крепости Килии. При штурме её был смертельно ранен.
Возведён указом 30 июня 1789 в баронское достоинство Российской Империи. Указом 16 мая 1790 пожалован «во всемилостивейшем уважении на ревностную службу и труды» двумя частями (Бармутинской и Череухинской) Закомельской волости Усвятского староства Полоцкой губернии. Из рапорта Полоцкого наместнического правления следует, что «… по сообщению казённой палаты оказалось всего крестьянских мужеска пола 1776, а женска 1670, да сверх того в оных частях земян, Бармутинской, мужеска 3, женска 2, Череухинской мужеска 111 женска 96 итого мужеска 114, да женска 98 душ,». Этим же днём пожалован дипломом на баронское достоинство, в коем указано, чтобы барон Иван Иванович Меллер в дальнейшем потомственно именовался Меллером-Закомельским.