Родился в селе Казинка Козловского уезда (ныне Старая Казинка Мичуринского района) в дворянской семье богатого помещика. В родительском доме обучался языкам, литературе, пробовал переводить. Далее служил в лейб-гвардии конном полку, где 1-го января 1782 года был из вахмистров произведен в корнеты, в 1790 году в ротмистры, а 1-го января 1793 года из ротмистров конной гвардии был уволен к статским делам, с чином бригадира, и больше не служил.
Ещё во время службы в конной гвардии он издавал журнал «Утренние часы» (1788-89) и основал типографию в Петербурге. В 70-е годы он работал в качестве переводчика в Петербургском «Обществе, старающемся о напечатании книг», организованном Н. И. Новиковым. Выйдя в 1793 году в отставку, Рахманинов перевёз свою типографию в собственное имение Казинку Козловского уезда Тамбовской губернии, где и печатал разного рода переводные и оригинальные сочинения, без дозволения цензуры. Таким образом на Тамбовщине возникла первая в России сельская типография. Вскоре (1795) по доносу козловского цензора Сердюкова типография Рахманинова была закрыта, издания опечатаны и он отдан под суд. Дело затянулось до 1797 года, когда типография со всеми книгами сгорела и Рахманинов был освобождён. В числе опечатанных книг были три, переведённые самим Рахманиновым, — «Аллегорические, философические и критические сочинения г. Вольтера», «Ненависть, побежденная любовию» и «Политическое завещание господина Вольтера».
В начале 1800-х годов были напечатаны пять частей собрания сочинений Вольтера, воспроизводивших казинское издание. Закончить начатое помешала смерть Рахманинова.
С. П. Жихарев в «Записках» своих, под 9 февраля 1807 года, пишет про И. Г. Рахманинова: «Я знал его уж стариком и помещиком деревенским в полном значении слова» и далее приводит отзывы о нём И. А. Крылова и Г. Р. Державина. По мнению первого, Рахманинов
По словам Г. Р. Державина, Рахманинов «человек был умный и трудолюбивый, но большой вольтерианец».