Существуют упоминания о погребении его в Мармарике, но они могут происходить от смешения его у христианских авторов с Иаковом Алфеевым.
Память в Католической церкви — 25 июля, в Православной церкви — 30 апреля и 30 июня (по юлианскому календарю).
Согласно преданию, после мученической кончины апостола в 44 году на Святой земле, его останки были положены в лодку и пущены по волнам Средиземного моря. Чудесным образом эта лодка приплыла в Испанию, где святой проповедовал ранее, и была выброшена на берег в устье реки Улья (там, где появится позже город Сантьяго-де-Компостела). В 813 году, как гласит церковное предание, живший в этой местности монах-отшельник Пелайо, следуя за некоей путеводной звездой, обнаружил этот ковчег с мощами, которые оставались нетленными. Тогда же возникла легенда о проповеди самого Иакова на Пиренейском полуострове, исторически совершенно неправдоподобная.
В 896-99 годах король Альфонс III издал указ, и на месте находки над мощами была построена небольшая церковь. Само место было названо Компостелла (лат. Campus Stellae, «Место, обозначенное звездой»). Святой Иаков, чудесно являвшийся во время битв с маврами, стал покровителем Испании и Реконкисты. Как апостол, предпринявший, по преданию, во время своего служения далёкое путешествие из Святой земли в Испанию, он стал считаться покровителем паломников. К XI веку паломничество в Сантьяго-де-Компостела приобрело статус второго по значимости паломничества (после паломничества в Святую землю).
В конце XX века традиция возродилась: для того, чтобы получить свидетельство о пройденном «пути Иакова», паломник должен пройти сто или проехать на велосипеде двести километров. По прибытии в город паломник предъявляет в соборе специальный документ «credencial» (паспорт пилигрима, действующий ещё со времен Средневековья) с отметками, сделанными в находящихся на пути пунктах, после чего получает написанный на латыни «Сертификат Компостелы». Когда день поминовения апостола Иакова, 25 июля, выпадает на воскресенье, то в Испании объявляется «год святого Иакова», соответственно, церковные празднества в этом году особенно торжественны.
В честь апостола Иакова названа также столица Чили — Сантьяго.
Апостол считается покровителем района Марьялва в Португалии.
Самое старое изображение апостола — мозаика в Равенне VI века, Иаков изображён на ней в виде старца со свитком в руках. В дальнейшем его изображали также в виде странника с посохом, рыцаря на коне — Мавробойцы. Иаков был персонажем картин великих художников — Дюрера, Рубенса и многих других.