Родился в брахманской семье. Получил высшее образование в области английской литературы, хинди и санскрита в университете Аллахабада. Затем обучался праву в Кембриджском университете и школе права Гарвардского университета.
В 40-е годы XX века был вовлечён в борьбу за независимость Индии от Великобритании и вступил в Индийский национальный конгресс, которому оставался верен до конца жизни. В 1952 году возглавил правительство Бхопала и оставался на этом посту до 1956 года, когда Бхопал вошёл в состав штата Мадхья-Прадеш.
В 60-е годы XX века Шанкар Шарма поддержал Индиру Ганди в её стремлении стать лидером Индийского национального конгресса. Входил в её кабинет в качестве министра связи в 1974-1977 годах. В 1971 и 1980 годах выиграл выборы в Лок Сабху (нижнюю палату парламента Индии) от Бхопала.
В 1984 году стал губернатором штата Андхра-Прадеш. В во время его губернаторства в этом штате сикхскими экстремистами были убиты его дочь Гитанжали и зять, Лалит Макен, молодой член парламента и перспективный политик. Кроме того, 31 октября 1984 года была убита Индира Ганди. Вскоре после этого, в 1985 году, в разгар конфликта между центральной властью Индии и сикхскими экстремистами, Шанкар Шарма стал губернатором штата Пенджаб, где в основном проживают сикхи. В 1986 году стал губернатором штата Махараштра. В 1987 году избран вице-президентом Индии и председателем верхней палаты парламента Раджья Сабха.
В 1992 году, будучи вице-президентом, после трудной предвыборной компании получил 66% голосов и выиграл выборы на пост президента страны. Во время своего пятилетнего срока правления активно выполнял представительские функции, назначал и освобождал от должности губернаторов. За последний год правления привёл к присяге трёх премьер-министров. На второй срок не баллотировался.
9 декабря 1999 года, после сердечного приступа, Шанкар Шарма был доставлен в больницу, где и скончался 26 декабря того же года. Кремирован.