Свою первую группу, Rare Breed, Батлер образовал вместе со школьным приятелем Оззи Осборном осенью 1967 года. Затем на некоторое время пути их разошлись, но музыканты объединились вновь позже, в блюз-роковом квартете Polka Tulk, где играли гитарист Тони Айомми и барабанщик Билл Уорд. До 1968 года Батлер играл, в основном, на ритм-гитаре, но Айомми недвусмысленно дал понять ему, что хотел бы остаться единственным гитаристом в составе, и тот переключился на бас.
Известно, что Гизер Батлер одним из первых среди бас-гитаристов стал использовать педаль Wah-wah (пример — вступление к N.I.B.). Позже этот метод переняли многие его последователи, к числу которых относил себя и Клифф Бёртон из Metallica. Батлер, кроме того, одним из первых перестроил свой бас (со стандартного EADG — на более низкий C#F#BE), чтобы подстроиться под гитару Айомми. Некоторое время спустя де-тюнинг стал распространенным явлением среди басистов металлических групп.
При том, что в центре внимания находился фронтмен группы Оззи Осборн, именно Батлер, увлекавшийся оккультной литературой, был автором большинства текстов ранних Black Sabbath.