После окончания гимназии в Карачи отправился получать высшее образование в Кембридж, но в 1952 г. был вынужден вернуться на родину из-за серьезной болезни отца.
В 1952 г. избран председателем собрания депутатов района Навабшах, став самым молодым председателем районного совета на субконтиненте.
В 1958—1970 гг. — депутат парламента провинции Западный Пакистан.
В 1969 г. вступил Пакистанскую народную партию.
В 1970 г. избран в Национальное собрание Пакистана.
В 1971—1973 гг. — министр политических дел, природных ресурсов и коммуникаций.
В 1973—1977 гг. — главный министр провинции Синд.
После введения военного положения, Джатой присоединился к оппозиционному блоку «Движение за восстановление демократии». Дважды был арестован (в 1983 и 1985 гг.).
В 1986 г. создал Народную национальную партию, ставшую ведущей «левой» партией Пакистана.
В 1989 г. избран в Национальное собрание, став лидером объединенных оппозиционных партий.
В 1990 г. после отставки правительства Беназир Бхутто назначен и. о. премьер-министра Пакистана.
Впоследствии он объединился с Бхутто, добившись отставки в 1993 г. с поста премьер-министра Наваза Шарифа.