Яровой — один из 8 полных кавалеров ордена Славы, также удостоенных звания Героя Социалистического Труда.
Родился в крестьянской семье. Окончил 5 классов. После окончания школы работал в колхозе.
После войны работал трактористом в родном селе. В 1954 году по путёвке обкома комсомола отправился распахивать казахскую целину.
В апреле 1971 года Яровому было присвоено звание Героя Социалистического Труда «за выдающиеся успехи, достигнутые в развитии сельскохозяйственного производства и выполнение пятилетнего плана продажи государству продуктов земледелия и животноводства».
Вплоть до 2000 года работал в Костанайском сельскохозяйственном институте. В 1995 году в Москве принимал участие в Параде, посвящённому 50-летию Победы.
Умер 19 июля 2007 года, похоронен в Кустанае.