Балмер поступил на службу в Майкрософт в начале 1980-х годов, по приглашению Билла Гейтса, с которым он учился в Гарвардском университете, сразу став одним из главных менеджеров и близким соратником основателя компании Билла Гейтса. Он руководил разработкой первых версий операционных систем (MS-DOS и Windows). 13 января 2008 года Балмер стал преемником Гейтса, заменив его на посту генерального директора.
Балмер известен своей требовательностью к сотрудникам компании и энергичной рекламой продуктов Майкрософт, а также своей неприязнью к iPhone — продукту компании-конкурента Apple.
Женат на сотруднице Майкрософт Конни Снайдер и имеет троих детей.
16 февраля 2011 года Стивен Балмер награждён Орденом Почётного легиона.