Борис Гмыря родился 23 июля (5 августа) 1903 года в местечке Лебедин, (ныне город в Сумской области, Украина) в семье каменщика.. Судя по всему происходит из старинного украинорусского казачьего рода Слобожанщины. Напр. Фёдор Гмыря упоминается в качестве казачьего сотника в г.Красный Кут Ахтырского полка в 1682 году.
Отец Роман Константинович умер во время Голодомора 1933 года, мама выжила только благодаря литру молока, вовремя принесенном ее сыном.
Работал сначала грузчиком, затем матросом в Черноморском торговом флоте. В 1935 году окончил инженерно-строительный институт в Харькове. В 1939 году окончил Харьковскую консерваторию (класс пения П. В. Голубева).
С 1936 года Борис Гмыря выступал на сцене Харьковского оперного театра, а с 1939 года стал солистом Украинского театра оперы и балета.
В 1941 Б.Гмыре присвоено звание "Заслуженный артист Украинской ССР". В 1951, на Декаде украинского искусства в Москве, по личной подписи Сталина Б.Гмыре присвоено звание "Народный артист СССР", вместо "Народный артист Украинской ССР".
Скончался Борис Гмыря 1 августа 1969 года в Киеве.
Похоронен на Байковом кладбище.
Обладая голосом широкого диапазона и мягкого, бархатного тембра, Борис Гмыря был одним из ведущих мастеров советской оперной сцены. Певцу были присущи глубокое психологическое раскрытие сценических образов, большая эмоциональная выразительность, сдержанная внутренняя сила.
Среди исполняемых партий: Сусанин в одноимённой опере, Руслан («Руслан и Людмила» М. И. Глинки), Борис Годунов («Борис Годунов» М. П. Мусоргского), Мельник («Русалка») А. С. Даргомыжского, Гремин («Евгений Онегин» П. И. Чайковского), Сальери («Моцарт и Сальери» Н. А. Римского-Корсакова), Томский в «Пиковой даме» П. И. Чайковского, Мефистофель («Мефистофель» Бойто), Тарас Бульба (одноимённая опера Лысенко), Фрол («В бурю» Хренникова). «Песня о Ленине» (муз. А.Холминова, сл. Д.Каменецкого)