В 1743 г. выпущен из сухопутного кадетского корпуса, с чином прапорщика. Есть указание, что он служил в начале секретарем лейб-кампании и, имея мало дела, занялся изучением французского и немецкого языков и разных наук. К пятидесятым годам должны быть отнесены главные стихотворные опыты Елагина, весьма скабрезного характера, ходившие по рукам в многочисленных списках. Напечатана из его стихотворений сатира «На петиметра и кокеток» в «Библ. Зап.», 1859 г.(№ 15).
Когда в 1758 г. был арестован канцлер граф Бестужев-Рюмин, заподозренный в заговоре в пользу великой княгини Екатерины Алексеевны, Елагин, как сторонник будущей императрицы и доверенное лицо Понятовского (впоследствии короля польского), был тоже замешан в дело и сослан в Казанскую губернию.
С воцарением Екатерины, Елагин немедленно был возвращен из ссылки и, несмотря на недоброжелательство к нему Орловых, щедро награждён за преданность: он состоял в кабинете «при собственных Её Величества делах у принятия челобитен», членом дворцовой канцелярии и комиссии о вине и соли, потом директором по спектаклям и музыкой придворной, ещё позже — сенатором и обер-гофмейстером, чем и завершается его служебная деятельность. Человек умный и просвещенный, о котором императрица говорит, «что он хорош без пристрастия», Елагин делается также приближенным малолетнего наследника престола и, вместе с Сумароковым, его постоянным гостем.
Наиболее яркой плодотворной стороной его деятельности является управление театрами, был назначен высочайшим указом директором Императорских театров России (1766—1779). В это время учрежден русский публичный театр (1774), основано, по плану помощника его Бибикова, театральное училище (1779), командирован за границу набирать французскую труппу актёр Дмитревский, заложен Большой театр в Коломне; хозяйственная часть театра приведена в блестящее состояние, несмотря на необыкновенную роскошь постановки. Отставку Елагина до сих пор объясняли анекдотическими подробностями, почерпнутыми Бантыш-Каменским из голословного свидетельства князя Голицына; вновь открытые сведения дают ей другое освещение (см. ст. барона Дризена: «И. П. Елагин» в «Русской Старине», 1893 г., октябрь).
Играл значительную роль в русском масонстве, к которому принадлежал с юных лет; под конец его жизни это изменило к худшему отношения к нему Екатерины, когда-то шутя подписавшейся: «канцлер господина Елагина». В Петербургской провинциальной ложе английской системы, открытой в 1770 году, Елагин первый получил звание Великого Мастера. В 1777 году Елагин принимал участие в введении среди русского масонства шведской масонской системы «строгого наблюдения». Увлекаясь одно время тайными науками, он был горячим адептом Калиостро. После него осталась любопытная (неоконченная) записка о масонстве, преимущественно русском (напечатана в 1864 г.).
В 1777 г. Елагин стал владельцем острова в Петербурге, ставшего известным как Елагин остров.
Как и Храповицкий, Елагин, по-видимому, был сотрудником Екатерины по некоторым её литературным произведениям, слагал иногда стихи для её комедий и проч. Ему принадлежит перевод 1 и 4 глав Мармонтелева «Велизария», переводившегося Екатериной и её приближенными во время плавания по Волге в 1767 г. Есть указание, что Елагин когда-то перевёл все комедии Детуша (по мнению Лонгинова, это едва ли верно); ему же приписывается неизданный перевод французской комедии «Jean de France», игранной в 1765 г., и много других переводов (см. перевод Михаила Лонгинова, в «Русской Старине», 1870 г., т. II). Елагин считается одним из родоначальников первобытного славянофильства; он писал иногда почти по-славянски. Фонвизин, с 1763 по 1769 г. служивший при нём секретарем, в начале подражал Елагину, употребляя много славянских слов и «каданзированную прозу». Резче всего «славянское» направление Елагина сказалось в начатом на склоне лет (1790) «Опыте повествования о России», доведенном до 1389 года. Научные приёмы «Опыта» (вышла 1 часть, М., 1803) крайне наивны и не выдерживают самой снисходительной критики. Елагин был членом Российской академии с самого её основания и лейпцигского учёного общества.
О некоторых чертах его характера говорят Бантыш-Каменский («Словарь достопамятных русских людей», 1847), Жихарев («Отечественные Записки», 1856, № 9), Пекарский («Материалы для истории литературной и журнальной деятельности Екатерины II») и С. Порошин («Записки»). Ср. также Лонгинова, «Новиков и мартинисты», и его же ст. в «XVIII в.» Бартенева, т. II.
В 1772 году стал провинциальным Великим Мастером и реорганизовал существовавшие к тому времени в России ложи в единую систему. Кроме самого Елагина в возглавляемую им «Великую Провинциальную ложу» в Санкт-Петербурге входили такие известные в то время масоны, как уже упомянутый выше граф Р. Л. Воронцов (наместник-мастер), генерал-майор А. Л. Щербачев, князь И. В. Несвицкий и другие. Под управлением Елагинской Великой ложи в первой половине 70-х годов XVIII века работало 14 лож:
Общее число членов Елагинских Лож составляло приблизительно четыреста человек.
Елагин развил активную деятельность как в распространении франкмасонства, так и в его благоустройстве. Вследствие этого система, господствовавшая в ложах от него зависимых, называется «Елагинской»; она была сначала скопирована с английской, а потом к ней примешались влияния других систем, примешалось даже влияние розенкрейцерства, против которого возмущался и сам Елагин.
Благодаря исследованиям академика Пыпина и академика Пекарского, нам известны многие подробности работы, осуществлявшейся в Елагинской системе Лож, и ее отличий от других систем. Академиком Пекарским были найдены подлинные ритуалы, переведенные Елагиным с актов ложи Аполлона. Особенность их, сравнительно со старинными английскими которые можно найти в книгах «Иоакин и Боаз, или подлинный ключ к двери франкмасонства старого и нового», 1762 год, и «Три сильных удара, или дверь древнейшего франкмасонства, открытая для всех людей», заключается в так называемом «Пути», или «мытарствах» новопоступающего во время приема: допускаются устрашающие эффекты в виде брата в «окровавленной срачице», устремленных против него шпаг, «смешения крови… с кровию братиев наших»; еще больше эффектов показано в церемонии возведения брата в степень мастера, хотя все же эти «прикрасы» проще, чем о том говорится в донесении Олсуфьева о масонах при императрице Елизавете Петровне. Эти «прикрасы», однако, скоро распространились и в Англии, так что здесь еще нет отличия Елагинской системы от староанглийской. Елагин стремился удержать три первоначальных степени — «ученика, товарища и мастера», и если он и принял впоследствии четыре высших, рыцарских степени, то они не играли большой роли, а были просто почетные. Сам Елагин в § 12 своих «Бесед» относится отрицательно к увеличению числа степеней:
В книге «Обряд принятия в мастера свободные каменщики», помещены установленные Елагиным правила для подготовления новичка к принятию в ложу; эти правила, в связи с «Уставом, или правилом свободных каменщиков», а также с «Беседами» Елагина, в общих чертах определяют отдельные пункты его системы со стороны содержания.
Первая цель ордена согласно Елагину:
Сохранение и передачу этой тайны мы находим и в древнем английском масонстве, например в «Apologie pour l’ordre de F.-M.» (1742 год). Вскоре эту тайну, которая, по объяснению старых масонов, была «тайной братской любви, помощи и верности», стали эксплуатировать в самых разнообразных формах, «от заговора в пользу Стюартов вплоть до дикой алхимии и нелепого колдовства». Несомненно, что и Елагин понимал эту тайну в мистическом духе: он искал
Если мы обратимся к тем источникам, из которых он черпал свои вдохновение своим идеям, то увидим, что они все весьма загадочные, по-видимому, зачастую все того розенкрейцерского происхождения.
Согласно исследованиям академика Пыпина, у Елагина был наставник в масонской премудрости — некий Эли, «в знании языка еврейского и каббалы превосходный, в теософии, в физике и химии глубокий». Как пишет далее Пыпин, этот Эли был розенкрейцером; книга его «представляет весьма характерный образчик розенкрейцерского, мнимо глубокого теологического и алхимического вздора». Существует еще известие на страницах дневника некоего немца-розенкрейцера, найденного академиком Пекарским в бумагах Елагина, что Елагин «хотел выучиться от Калиостро делать золото». Из другого источника мы знаем, что Елагин был близок с Калиостро, и что секретарь его дал Калиостро пощечину, может быть, за обман насчет делания золота. Этим, вероятно, объясняется позднейшая ненависть Елагина к делателям «мечтательного золота». Второй основной пункт Елагинской системы, наиболее ценный для русского общества — необходимость самопознания и нравственного самоусовершенствования и исправления всего человеческого рода. Елагинская система была чужда политики: об этом говорится в бумагах Елагина, на это указывал Новикову и Рейхель. Вообще, Елагину не удалось построить систему, которую можно было бы выставить в противовес тем «вольтерьянским взглядам», против которых боролось масонство. Серьёзные этические, религиозные, отчасти и социальные вопросы оказались не под силу тогдашней научно-критической мысли.