Канонизирован Русской церковью в 1989 году в лике святителей.
Родился около 1525 года в Старице в семье посадских людей.
Принял монашеский постриг в Старицком Успенском монастыре с имением Иов в честь Иова Многострадального. В обители Иов был духовно «воспитан и грамоте, всему благочинию и страху Божию добре обучен».
Впоследствии стал игуменом (с 1566 по 1571 год) Старицкого Успенского монастыря. Так как Старица была одним из центров опричнины, привлёк внимание Ивана Грозного и в 1571 году его перевели в Москву в Симонов монастырь. В 1575 году стал архимандритом царского Новоспасского монастыря в Москве. С 1581 года епископ Коломенский. В Коломне был до 1586 года, когда был назначен архиепископом Ростовским.
С середины 1580-х годов близкий сподвижник Бориса Годунова; при его содействии возведён в митрополиты Московские (1586 год) и 26 января (по старому стилю; 5 февраля по новому стилю) 1589 года поставлен находившимся в Москве константинопольским патриархом Иеремией II в первые Патриархи Московские. В дальнейшем поддерживал политику Бориса. Из важных церковных событий его патриаршества — канонизация Василия Блаженного и Иосифа Волоцкого, распространение христианства в Поволжье, покорённом при Иване Грозном, и в Сибири, присоединённой как раз в годы правления Бориса Годунова.
Смерть Годунова в 1605 году и победа Лжедмитрия I означала и падение Иова. Иов отказался признать самозванца сыном Ивана Грозного и требовал от москвичей верности Фёдору Борисовичу, Лжедмитрий и его сторонники, «которые государю изменили, а тому вору и богоотступнику последуют и именуют его князем Дмитрием» были преданы патриархом анафеме. Так как секретарём Иова некоторое время был Григорий Отрепьев, то исследователи, отождествляющие этого персонажа с Лжедмитрием I, объясняют стремление последнего поскорее удалить Иова из Москвы нежеланием разоблачения. Сам патриарх Иов в своих грамотах называл Лжедмитрия «расстрига, ведомый вор, в мире звали его Юшком Богданов сын Отрепьев, жил у Романовых во дворе и заворовался. …да и у меня, Иова Патриарха, во дворе для книжного письма побыл во дьяконах же. А после того сбежал с Москвы в Литву». Иов был смещён с кафедры и заточён в монастырь в родной Старице ещё до прибытия самозванца в столицу, который направил указание «взять его там в приставы» и содержать «во озлоблении скорбнем». После убийства Фёдора Годунова Иова арестовали за богослужением в Успенском соборе Кремля, сорвали с него патриаршье облачение и как простого монаха отправили в изгнание. После изгнания Иова церковный собор избрал новым московским патриархом грека Игнатия, примкнувшего к сторонникам Лжедмитрия. Однако смена Патриархов не была законной: святитель Иов не был ни низложен, ни тем более лишен сана.
В Старице Иов прожил ещё два года, и умер в 1607 году. Перед смертью реабилитированный при Василии Шуйском посетил Москву, но по здоровью (совершенно ослеп) отказался от возвращения на патриарший престол и вернулся в Старицу где скончался 19 июня и был похоронен в Старицком Успенском монастыре. В 1652 году останки Иова перенесены в Успенский собор Московского Кремля.
По отзывам современников был «прекрасен в пении и во чтении, яко труба дивна всех веселя и услаждая», наизусть читал Псалтирь, Апостол, Евангелие. Был традиционалистом и консерватором. После него остались написанные им «Завещание» и «Повесть о царе Фёдоре Иоанновиче» (панегирик, написанный после смерти царя, восхваляет его добродетели).