С 1930 по 1935 г. он — студент, а с 1935 по 1940 г. — научный сотрудник, ассистент и доцент Московского автодорожного института (МАДИ). В 1939 г. им была успешно защищена кандидатская, а спустя всего лишь год — докторская диссертация.
С 1940 по 1950 г. Я. Г. Пановко служил в Красной (Советской) Армии, в конце этой службы ему было присвоено звание инженера-подполковника. С 1943 г. он преподавал в Ленинградской Военно-воздушной академии, где в 1944 г. был избран профессором по кафедре конструкций и прочности самолета.
В течение 15 лет, начиная с 1950 г., Яков Гилелевич заведовал кафедрами в различных высших учебных заведениях Риги — в Латвийском государственном университете (1950—1958), Рижском политехническом институте (1958—1963) и Рижском институте инженеров гражданской авиации (1963—1964). В 1958 г. он был избран членом-корреспондентом Академии наук Латвийской ССР, а в 1992 г. — иностранным членом Латвийской Академии наук.
На протяжении последующих двадцати лет (1964—1984) Яков Гилелевич возглавлял кафедру теоретической механики Ленинградского кораблестроительного института (ныне Санкт-Петербургский морской технический университет), оставшись затем еще на восемь лет профессором этой кафедры. Профессор Я. Г. Пановко в течение многих лет был Председателем Государственной экзаменационной комиссии на кафедре «Механика и процессы управления», которой в Ленинградском политехническом институте заведовал проф. А. И. Лурье.
Я. Г. Пановко принял также деятельное участие в организации и становлении Института проблем машиноведения Российской академии наук в Санкт-Петербурге. Его связи с этим институтом продолжались до последних лет и оказали благотворное влияние на работу института, объединяющего ныне большое число известных ученых-машиностроителей, механиков, физиков и математиков.
Круг научных интересов Якова Гилелевича был весьма широк. Ему принадлежат существенные результаты в строительной механике, прикладной теории упругости и пластичности, теории колебаний и удара. Им опубликовано более ста работ, в числе которых пятнадцать монографий. С 1943 г. он занялся исследованиями в области аэроупругости, итог которых был подведен в написанной совместно с Е. П. Гроссманом монографии «Упругие колебания частей самолета» (1947) и подготовленном в сотрудничестве с Г. Г. Ростовцевым руководстве «Строительная механика самолета» (1950—1952). Видное место занимают работы Я. Г. Пановко по статике тонкостенных конструкций. Не потеряла до сих пор своего значения написанная им в соавторстве с Г. Ю. Джанелидзе монография «Статика упругих тонкостенных стержней» (1955).
Я. Г. Пановко предложил исключительно простой и эффективный приближенный метод исследования нелинейных задач теории колебаний — метод прямой линеаризации (1962), с помощью которого решено много важных прикладных задач. Принципиальное значение имеет цикл его работ по учету внутреннего и внешнего рассеяния энергии в прикладных задачах теории колебаний механических систем. Им доказана преобладающая роль конструкционного демпфирования в общем балансе потерь энергии при колебаниях большинства реальных конструкций, а также установлено, что при решении многих инженерных задач теории колебаний имеет значение лишь площадь петли гистерезиса, а не ее форма. Эти и другие результаты исследований Я. Г. Пановко прочно вошли в арсенал основных средств инженерной науки.
Особое место среди трудов Якова Гилелевича занимает выдержавшая пять изданий монография «Устойчивость и колебания упругих систем», написанная им совместно с И. И. Губановой. В ней содержатся очерки, посвященные современным концепциям, ошибкам и парадоксам в теории колебаний и устойчивости упругих систем. Значительный интерес и плодотворные дискуссии вызвала книга «Механика и прикладная математика: Логика и особенности приложений математики», написанная Я. Г. Пановко в соавторстве с И. И. Блехманом и А. Д. Мышкисом и посвященная нетрадиционному анализу понятия «прикладной» математики.
Много внимания уделял Яков Гилелевич созданию учебников и очеркам по истории механики. Он был блестящим лектором и заботливым научным руководителем. Им подготовлено более 50 кандидатов и докторов наук.
Я. Г. Пановко был организатором ряда научных съездов, конференций, симпозиумов и школ. По его инициативе, начиная с 1956 г., проводились научные конференции по прикладной теории механических колебаний. Преемником этих конференций является в настоящее время Международная научная школа по актуальным проблемам механики, ежегодно проводящая свои сессии в Санкт-Петербурге (Репино) и привлекающая как ведущих ученых, так и молодых специалистов России, СНГ и других стран.
Яков Гилелевич любил и ценил острое слово и обладал большим чувством юмора. Его ученики и друзья помнят много принадлежащих ему ярких афористических высказываний, характеризующих его отношение к людям, к жизни, науке и искусству. При этом особое уважение и требовательность проявлял он всегда к точности выражения мысли и к словоупотреблению.
Яркая индивидуальность, незаурядность личности и высокий интеллект Якова Гилелевича привлекали к нему всех, кто имел счастье с ним общаться. В числе его друзей и собеседников были выдающиеся ученые и деятели культуры — ученые-механики А. И. Лурье, В. В. Новожилов, Г. Ю. Джанелидзе, В. И. Феодосьев, И. И. Ворович, физик Никита Толстой, летчик-испытатель и писатель Марк Галлай, режиссёр и художник Н. П. Акимов, знаменитый балетмейстер И. А. Моисеев, народная артистка РСФСР Ольга Лебзак.