Родился в зажиточной еврейской семье, его отец был издателем ежедневной газеты в Нанте. Учился в Париже в лицее Людовика Великого. В 1884 открыл для себя творчество Стивенсона, перевел его «Остров сокровищ» на французский, переписывался с ним, в 1901 путешествовал по Самоа. Был близок к символистам, входил в круг Рашильд, журнала и издательства «Mercure de France», поддерживал отношения с С. Малларме, П. Валери, Р. де Гурмоном, А. Жидом, П. Клоделем, А.Жарри, Ж. Ренаром, О. Уайльдом и другими. Изучал классическую филологию (в частности, увлекался Лукианом и переводил его), а также восточные языки, интересовался жаргонами (в частности, отсюда идет его интерес к Вийону и поэтам-сатирикам XV столетия). Переводил Дефо, Де Квинси, Шекспира («Гамлет» в его переводе был поставлен в Париже в 1900, заглавную роль исполняла Сара Бернар).
Похоронен на кладбище Пер-Лашез.
Фантастическая проза Швоба глубоко повлияла на А. Жида, Борхеса и др. Его прозой интересовались русские символисты, его переводил К. Бальмонт, о нем не раз писал Максимилиан Волошин.
Ораторию «Крестовый поход детей» на текст М.Швоба написал Габриэль Пьерне (1902).
Композитор Э. Денисов взял фразу из книги Швоба "...И появилось королевство, но оно было замуровано белизной" в качестве эпиграфа к своему произведению "Знаки на белом."