Родился 29 августа (10 сентября) 1807 года в Туле, в семье священника. Окончил Тульскую духовную семинарию. В 1835 году окончил медицинский факультет Московского университета. В этом же году И. П. Сахаров начал печататься: . Первыми его работами были статьи по археологии и этнографии. Он начал собирать песни, обряды и предания. В 1836 году И. П. Сахаров издал «Сказания русского народа о семейной жизни своих предков», в трёх томах. Затем — «Путешествие русских людей в чужие земли» (1837), двухтомник песен русского народа (1838—1839), «Писатели Тульской губернии» (1838), «Русские народные сказки» (1841) и другие работы.
В 1854 году Аполлон Григорьев резко осудил его за допущенное при издании песен нарушение их ритмико-мелодического и лексического строя и приравнял к тем издателям, которые искажали фольклор.
После появления новых капитальных фольклорных сборников А. Н. Афанасьева, В. И. Даля, П. В. Киреевского, П. Н. Рыбникова, А. Ф. Гильфердинга наследие Сахарова потеряло свою значимость.
Конец жизни Сахаров провёл в небольшом имении Заречье в Валдайском уезде Рютинской волости. Скончался 24 августа (5 сентября) 1863. Похоронен И. П. Сахаров на кладбище у Успенской церкви села Рютина (совр. Тверская область).
При публикации народных песен, сказок и преданий И. П. Сахаров ссылался на имеющиеся в его распоряжении рукописи, которые ни до, ни после него никто не видел. Такова «рукопись Бельского», в которой заключались произведения древнерусской народной поэзии, «Вождь по жизни», выдаваемый за источник Домостроя, рукопись с концовкой «Хождения Стефана Новгородца» и проч. В 1860-х годах П. А. Бессонов опубликовал серию статей, в которых произведения древнерусской народной литературы, изданные Сахаровым, были представлены частью как опубликованные ранее другими издателями, но переделенные, частью сочиненные самим издателем.