Родился в 1902 году в местечке Ракишки Новоалександровского уезда Ковенской губернии (ныне город Рокишкис на северо-востоке Литвы, административный центр Рокишского района в Паневежском уезде). По национальности — еврей.
Участник Гражданской войны 1918—1920 годов на Западном фронте в должности комиссара стрелкового полка. Участник боёв под Барановичами, взятия Сморгоньского укрепрайона. С 1922 г. на политработе в авиаэскадрилье в Минске.
В 1931 году окончил Качинскую военную школу лётчиков и стал комиссаром авиабригады, дислоцировавшейся в Витебске, вскоре превратив её в одно из образцовых соединений Военно-воздушных сил Рабоче-крестьянской Красной армии.
С ноября 1936 года по 17 июня 1937 года Смушкевич («испанский» псевдоним — генерал Дуглас) в рядах советских добровольцев принял участие в гражданской войне в Испании на стороне республиканского правительства — старшим военным советником по авиации, руководителем противовоздушной обороны города Мадрида.
За проявленные мужество и героизм при выполнении интернационального долга Яков Владимирович Смушкевич 21 июня 1937 года был удостоен звания Героя Советского Союза.
По возвращении из Испании в 1937 году окончил курсы усовершенствования начальствующего состава при Военной академии имени М. В. Фрунзе, и в том же году вступил в должность заместителя начальника Управления ВВС РККА.
В мае — августе 1939 года во время советско-японского конфликта на реке Халхин-Гол в Монголии командовал авиацией 1-й армейской группы.
Указом Президиума Верховного Совета СССР от 17 ноября 1939 года за мужество и отвагу в боях с японскими захватчиками на реке Халхин-Гол комкор Яков Владимирович Смушкевич награждён второй медалью «Золотая Звезда». Правительство Монголии наградило его орденом Боевого Красного Знамени Монгольской Народной Республики.
С 19 ноября 1939 года Смушкевич — начальник ВВС РККА, командарм 2-го ранга (1940), с 1940 г. помощник начальника Генштаба РККА по авиации. Кандидат в члены ЦК ВКП(б) с 1939 года. Член ЦИК БССР в 1935—1936 гг. Депутат Верховного Совета СССР 1-го созыва.
Постановлением Совета Народных Комиссаров СССР от 4 июня 1940 года Смушкевичу было присвоено воинское звание генерал-лейтенант авиации. В августе 1940 года был переведён на должность генерал-инспектора ВВС РККА, а в декабре того же года — помощника начальника Генерального штаба РККА по авиации.
8 июня 1941 года был арестован органами НКВД СССР по обвинению в участии в военной заговорщической организации, по заданиям которой в числе других арестованных Яков Смушкевич якобы проводил «вражескую работу, направленную на поражение Республиканской Испании, снижение боевой подготовки ВВС Красной Армии и увеличение аварийности в Военно-Воздушных Силах». В результате следственных действий (допросы, очные ставки, пытки) Смушкевич и другие арестованные признали предъявленные обвинения. Через пять месяцев после ареста — 28 октября 1941 года — был расстрелян в посёлке Барбыш Куйбышевской области на спецучастке Управления НКВД СССР по Куйбышевской области на основании предписания наркома внутренних дел СССР Л. П. Берия № 2756/Б от 18 октября 1941 года.
Указом Президиума Верховного Совета СССР от 21 марта 1947 года был лишён звания Героя Советского Союза и всех государственных наград.
Иностранные награды:
Два старших брата и сестра.
Жена Бася Соломоновна Смушкевич, и дочь Роза Яковлевна Смушкевич были репрессированы через полтора года после ареста отца (июнь 1941 года). Освобождены в 1954 году. Впоследствии Роза Смушкевич эмигрировала в Германию. Ещё одна дочь погибла в трёхлетнем возрасте, выпав с балкона по невнимательности няни.
В 1954 году посмертно реабилитирован. Звание Героя Советского Союза и награды возвращены Указом Президиума Верховного Совета СССР от 15 марта 1957 года.
17 августа 2008 года на кладбище Военно-воздушной Академии имени Ю. А. Гагарина в посёлке Монино (Московская область) состоялось торжественное открытие памятника Я. В. Смушкевичу.
В 1987 году в Витебске именем Я. В. Смушкевича названа улица.