Руди Сарзо родился на Кубе, в 1961 году эмигрировал в США.
На большой сцене Руди Сарзо появился в 1978 году в составе Quiet Riot, и успел отметиться на альбоме Quiet Riot II на обложке диска, как участник группы, хотя все басовые партии были записаны предыдущим басистом.
После того, как из группы Оззи Осборна в 1981 году ушёл басист Боб Дейсли (из-за известного конфликта, связанного с авторством на ряд песен из альбома Diary of a Madman) друг и коллега по Quiet Riot Рэнди Роадс порекомедовал Осборну взять Сарзо. Опять повторилась аналогичная история: несмотря на то, что на обложке диска Diary of a Madman в качестве участника назван Руди, все партии были записаны ещё Бобом Дейсли. Ещё до знакомства с Оззи Осборном Сарзо был большим его поклонником.
Но записать студийный диск с Рэнди Роадсом Руди так и не удалось: в марте 1982 года тот трагически погиб.
Впервые Руди Сарзо можно услышать на концертном альбоме Осборна Speak of the Devil (1982), который был записан в Ритце, в Нью-Йорке. На альбоме Руди продемонстрировал весьма вдумчивую, тонкую игру.
В сентябре 1982 года Руди Сарзо покинул Оззи для восстановления Quiet Riot. С этой группой он записал, в частности, альбом Metal Health, первый металллический релиз, который смог достичь номера 1 в Биллборд 200. В 1983 году Руди Сарзо был признан лучшим басистом по версии Circus Magazine.
В 1985 году Руди покинул Quiet Riot, а в апреле 1987 года присоединился к Whitesnake. Тогда же были сняты клипы, где Сарзо выступал вместе с группой на сцене под фонограмму, записанную с предыдущим басистом Нилом Марреем. В период между этими группами, Руди Сарзо был занят в проекте Тони Макалпина M.A.R.S.. В Whitesnake Руди был занят до 1991 года, когда Ковердэйл распустил группу, после чего до 2004 года официально не состоял ни в какой группе, записывался в различных трибьютах, работал сессионным музыкантом.
В 2004 году Руди Сарзо играл в американском туре Rising Force Ингви Мальмстина, и в том же году начал работать с Дио, до конца 2006 года. Сейчас Руди Сарзо работает с Blue ?yster Cult.
Руди Сарзо выпустил несколько пособий для игры на бас-гитаре, а также известен как писатель, написавший книгу Off The Rails, о времени, проведённом в группе Оззи Осборна. В основном, книга посвящена Рэнди Роадсу. Кроме того, Руди — компьютерный аниматор и в свободное от туров и записей время, является 3D-техническим директором и сопродюсером фирмы Ocean Visual FX в Калифорнии. Руди Сарзо женат с 1984 года, детей не имеет.
c Quiet Riot
c Оззи Осборном
c Whitesnake
c Manic Eden
c Dio
С другими артистами, трибьюты