Родился в семье крестьянина. Еврей. Член КПСС с 1944. Окончил 7 классов. В начале Великой Отечественной войны был эвакуирован. В эвакуации работал в МТС комбайнером. Призван Ново-Письмянским РВК (ныне Лениногорский РВК Республики Татарстан). В РККА с февраля 1942.
В действующей армии с декабря 1942. Командир орудия 249-го стрелкового полка (16-я стрелковая дивизия, 2-я гв. армия, 1-й Прибалт. фронт). Принимал участие в Курской битве. При отражении танков и пехоты противника 12 октября 1944 года на правом берегу р. Неман в районе г. Пагегяй (Литов. ССР) выкатил орудие на открытую позицию и подбил 2 вражеских танка. Когда пушка была разбита, а Ушполис был ранен, он противотанковой гранатой подбил ещё один танк.
В 1945 году окончил курсы политсостава. С 1947 майор Ушполис — в запасе. В 1949 окончил партийную школу при ЦК КП Литвы, а в 1954 году юридический факультет Вильнюсского университета. Работал в аппарате ЦК КП Литвы.
В 1991 году репатриировался в Израиль. Жил в Ашдоде, работал в ЦК Союза инвалидов войны. Написал книгу воспоминаний «Тревожное время». Она вышла в свет в 1997 году, он успел ее прочитать и в том же году скончался.
Указом Президиума Верховного Совета СССР от 24 марта 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом мужество и героизм, ефрейтору Ушполису Григорию Саульевичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 7427).
Ордена Ленина, Отечественной войны 1 ст., медаль «За отвагу»