Мори родился в японском городе Номи префектуры Исикава в семье политика и безнесмена Сигэки Мори. Ёсиро было всего семь лет, когда скончалась его мать Каору.
В 1960 году Ёсиро закончил факультет Коммерции Университета Васэда. Свою политическую карьеру начал в 1962 году, став секретарём члена парламента. В 1969 году в возрасте 32-х лет был избран в палату представителей, где переизбирался 10 раз подряд. С 1982 по 1983 гг. Мори занимал пост министра образования, с 1992 по 1993 гг. — пост министра внешней торговли и промышленности, а с 1995 по 1996 гг. являлся министром строительства. Также в 1993 году был избран генеральным секретарём Либерально-демократической партии. В апреле 2000 года (после кончины от инсульта его предшественника — Кэйдзо Обути) был избран на пост премьер-министра, а в декабре того же года был переизбран на этот пост. Период нахождения Мори у власти был омрачён чередой политических скандалов и досадных публичных оговорок. В результате в апреле 2001 года Мори подал в отставку. На посту премьера его сменил Дзюнъитиро Коидзуми.