София Губайдулина родилась в городе Чистополь, Татарской АССР. Отец — Губайдулин Асгат Масгудович, инженер-геодезист. Мать — Губайдулина Федосия Федоровна, урождённая Елхова, педагог. Дед, Масгуд Губайдулин, был муллой. В 1932 году семья переехала в Казань.
В 1935 София поступила в музыкальную школу. С 1946 по 1949 училась в казанской Музыкальной гимназии по фортепиано (класс М. А. Пятницкой) и композиции, а с 1949 по 1954 в Казанской консерватории по классу композиции у Альберта Лемана, а также по классу фортепиано у Григория Когана. В 1954 г. поступила в Московскую консерваторию, класс композиции Юрия Шапорина, а затем Николая Пейко, класс фортепиано Якова Зака. Сталинская стипендиантка. В 1963 году окончила аспирантуру Московской консерватории по композиции у профессора Виссариона Шебалина. Важным было для неё в эти годы слово-напутствие, сказанное ей Дмитрием Шостаковичем: «Я вам желаю идти вашим „неправильным“ путём».
В 1969—1970 Губайдулина работала в Московской экспериментальной студии электронной музыки в музее имени А. Н. Скрябина и написала там электронную пьесу Vivente — non vivente (Живое — неживое, 1970). Губайдулина писала также музыку для кино. Всего она написала музыку к 25 фильмам, включая «Маугли» (мультфильм, 1971) и «Чучело» (реж. Р. Быков, 1983). С начала 1970-х годов подружилась с Петром Мещаниновым (муж с 1992), пианистом, дирижёром ряда её произведений и теоретиком музыки, оказавшим значительное влияние на числовые расчёты в технике музыкальной композиции Губайдулиной. С 1975 г. выступала с импровизациями в составе ансамбля «Астрея» вместе с композиторами Виктором Суслиным и Вячеславом Артёмовым. В 1979 году на VI съезде композиторов в докладе Тихона Хренникова её музыка подверглась жёсткой критике, и Губайдулина попала в так называемую «хренниковскую семерку» — «чёрный список» 7 отечественных композиторов.
В 1991 году Губайдулина получила немецкую стипендию и полтора года находилась в Ворпсведе. С 1992 года живет в Аппене под Гамбургом, сохраняя российское гражданство.
В 2005 году провела мировое турне, посвящённое Тысячелетию Казани.
В 2011 году в Казани прошли торжества и акции в честь 80-летия Губайдуллиной, в том числе два фестиваля её имени и объявление её почетным гражданином Казани.
Губайдулина — один из самых крупных и глубоких композиторов второй половины XX века. По мнению многих, это самая выдающаяся женщина-композитор современности. В её творчестве чувствуется стремление к органичному объединению свойств искусства Запада и Востока, воздействие представлений духовно-религиозного порядка. Через веру она приходит и к смыслу творчества. Наряду с Альфредом Шнитке и Эдисоном Денисовым Губайдулина входит в так называемую «троицу» московских композиторов авангардного направления.
В 2011 году с личным патронажем и участием Софии Губайдулиной в Казани основан ежегодный фестиваль современной музыки её имени «Конкордия», в котором выступают известные российские и мировые композиторы и исполнители.
В Казани проводится международный конкурс пианистов её имени с участием студентов Казанской и других консерваторий.
Центр современной музыки действует в Казани в реконструированном доме на улице Тельмана, где композитор провела свои детские годы.
«Я религиозный православный человек и религию понимаю буквально, как re-ligio — восстановление связи между жизнью и высотой идеальных установок и абсолютных ценностей, постоянное воссоздавание legato жизни. Жизнь разрывает человека на части. Он должен восстанавливать свою целостность — это и есть религия. Помимо духовного восстановления нет никакой более серьёзной причины для сочинения музыки» (цит. по: В. Холопова. София Губайдулина. Путеводитель по произведениям. М., 2001. С. 3-4).