Происходил из горной области Баденох на севере страны. Окончил Кингз-колледж в Абердине. Писал стихи. Работал школьным учителем в родном городе Рутвен близ Инвернесса, Шотландия. Знал гэльский язык. Его близким родственником по клану был выдающийся гэльский поэт Лахлан Макферсон (гэльск. Lachlan Mac a’Phearsain; 1723 - ок. 1795)
После т. н. "разоблачения мистификации" (см. ниже) с Оссианом Макферсон пытался переводить Гомера, но потерпел неудачу. Два года провёл в Америке, где был секретарём губернатора Флориды, затем вернулся в Лондон, стал членом парламента. Умер в своём поместье Беллвил. Длинной поминальной элегией в традиционном гэльском жанре «cumha» откликнулся на смерть Макферсона гэльский поэт Дункан Маккай. Из Шотландии, где скончался Макферсон, его тело было доставлено в Лондон; он похоронен в Вестминстерском аббатстве, в нескольких шагах от своего злейшего врага – доктора Джонсона.
В 1758 Джеймс Макферсон опубликовал поэму «Горец» (The Highlander), а в 1760 книгу «Отрывки древней поэзии, собранные в горах Шотландии» (Fragments of Ancient Poetry Collected in the Highlands of Scotland), изданную анонимно. Затем Макферсон 1760 был направлен эдинбургской коллегией адвокатов в горы на севере Шотландии на поиски материалов об эпическом герое Фингале (Финне Маккулле), о деяниях которого рассказывал его сын Оссиан. Для такой экспедиции имелись основания: неграмотные гэльские сказители еще недавно способны были многократно и слово в слово повторить старинные легенды, в записанном виде превышавшие 80 тысяч строк. Но, судя по всему, на слишком большое углубление в материал у Макферсона не было ни средств, ни времени. Вскоре книга вышла почти сразу двумя изданиями; а меньше чем через год ее перепечатали в Лондоне. Издание имело успех, и на собранные по подписному листу деньги Макферсон предпринял еще одну поездку в горную Шотландию за новыми материалами. Так появились поэмы «Фингал» (Fingal, 1762) на основе легенд о Финне Маккулле и «Темора» (Temora, 1763), якобы созданные легендарным ирландским героем Оссианом в III веке. Затем Макферсон объединил их с «Отрывками» в «Сочинения Оссиана, сына Фингала, переведённые с гэльского языка Джеймсом Макферсоном». Поэмы Оссиана завоевали огромную популярность в Европе и Америке, однако тайна была раскрыта и Макферсон был обвинён в литературной мистификации.
Сочинения Макферсона обеспечили ему значительное состояние. Его «оссиановские» поэмы были, в сущности, лишь вольной обработкой подлинных кельтских преданий. Но славу литературного фальсификатора принесли Макферсону неприятные лондонской элите «наглость и псевдоучёность», при посредстве которых он пытался отстоять научную доброкачественность своих публикаций (не следует забывать, что геноцид горцев, последовавший за Куллоденом (1746), был памятен и сторонникам правящей династии, и горцам, а клан Макферсонов числился одним из наиболее мятежных). Подлинность так называемых "поэм Оссиана" поставил под сомнение С. Джонсон. После смерти Макферсона его литературная мистификация стала «общепризнанным фактом», однако современная наука склоняется к тому, что он не столько фальсифицировал поэмы, сколько скомпилировал и отредактировал подлинные сказания в духе сентиментализма. До 30 фрагментов, включенных в «Поэмы», обнаружены в т. н. «Книге декана острова Лисмор» (The book of the Dean of Lismore, гэльск. Leabhar Deathan Lios M?ir, манускрипте, который в 1512—1526 годы составили из записанных ими старинных шотландских легенд братья Джеймс Макгрегор (James MacGregor, гэльск. Seumas MacGriogair ) и Дункан Макгрегор (Duncan MacGregor, гэльск. Donnchadh MacGriogair).
Несмотря на поставленные под сомнение достоинства поэм Макферсона, несмотря на его стилизаторство в духе предромантизма, «поэмы Оссиана» оказали огромное влияние на европейскую и, в частности, русскую литературу. Державин, Карамзин, Батюшков, Дмитриев, Гнедич, Жуковский, Баратынский и многие другие поэты переводили их и подражали им. Следует специально отметить, что рифмованное переложение одной из коротких поэм “Оссиана” – “Кольна” выполнено А. С. Пушкиным в юности (у Макферсона “Кольна-Дона”); ею завершается второй том “Поэм Оссиана”.