Представитель этнической группы Фанг. После учебы в семинарии, он работал в колониальной администрации в качестве таможенного агента. В 1958 году он руководил политической интеграцией Габона во Франко-африканское Сообщество. Он стал главой государства после обретения независимости от Франции 17 августа 1960 года. В 1964 году произошел первый и единственный военный переворот в Габоне, Леон Мба был похищен. Впрочем, уже через два дня союзники помогли восстановить правительство Леона Мба. Мба был избран депутатом в марте 1967 года, а умер в ноябре того же года. На посту президента, его сменил вице-президент Альбер Бернар Бонго (позднее Омар Бонго Ондимба).
27 ноября 1967 года Леон Мба умер от рака в Париже, куда он был госпитализирован с августа этого года.