Родился в 1802 г., младший брат адмирала Павла Матвеевича Юхарина. В 1814 г. поступил в Морской кадетский корпус, в 1817 г. был произведён в гардемарины и в 1820 г. в мичманы. В 1821 г. крейсировал в Балтийском море, в 1823 г. на транспорте «Кетти»участвовал в экспедиции по описи Белого моря и в 1827 г. в чине лейтенанта, определён был к Морскому корпусу. В 1835 г. в чине капитан-лейтенанта плавал на корабле «Император Пётр I» с десантными войсками от Кронштадта до Данцига, а с 1837 по 1844 гг. крейсировал в Балтийском море. В 1844 г. Юхарин был произведён за отличие в капитаны 2-го ранга и командовал отрядом фрегатов, плавая с гардемаринами в Балтийском море, а в 1846 г. был произведён за отличие в капитаны 1-го ранга и переведён в Черноморский флот, где командовал бомбардирским судном «Перун», плавая у Абхазских берегов. В 1847 г. Юхарин был назначен в Николаев командиром 2-го учебного морского экипажа и заведывающим Николаевским флотским училищем. Награждённый в том же году орденом св. Георгия 4-й степени за выслугу 25 лет в офицерских чинах, а в следующем году орденом св. Анны 2-й степени, он в 1852 г. был назначен командиром школы флотских юнкеров и награждён орденом св. Владимира 3-й степени. В 1853 г. Юхарин был назначен почётным попечителем частного мужского пансиона в Николаеве и в 1854 г. — командиром батареи № 1, устроенной для защиты Николаева. В том же году на шхуне «Опыт» Юхарин командовал отрядом судов, защищавших Николаев от англо-французов, и в 1855 г. в чине контр-адмирала командовал морскими батальонами, сформированными из рекрутских запасных рот, а затем заведывал всеми перевязочными пунктами в окрестностях Николаева. В 1857 г. Юхарин был назначен состоять при черноморской гребной флотилии, в 1861 г. награждён орденом св. Станислава 1-й степени и в 1864 г. произведён в вице-адмиралы. Умер 12 апреля 1865 г.