Согласно жития, Иаков был мытарем, проповедовал в Иудее, а затем вместе с апостолом Андреем отправился в Эдессу. После самостоятельно вёл проповедь в Газе и Елевферополе (Южная Палестина).
Из-за смешения с другими Иаковами проследить его путь в христианской традиции довольно сложно. О его смерти и погребении существует несколько версий. У одних авторов, например у Псевдо-Симеона Логофета, он принимает смерть в Мармарике («побит камнями иудеями»), у других — принял мученическую смерть по дороге в Египет в городе Острацине (распят на кресте).
Иакова Алфеева следует отличать от апостола Иакова Зеведеева или Иакова Старшего, а также от Иакова, «брата Господня», апостола из числа 70, первого епископа Иерусалима, называемого Иаковом Младшим. Путанице у некоторых авторов в прошлом способствовало то обстоятельство, что Иакова Алфеева также иногда называют Иаковым Младшим.
Память в Православной церкви совершается (по юлианскому календарю): 30 июня (Собор двенадцати апостолов) и 9 октября; в Католической церкви 3 мая.