Родился 27 декабря 1795 г. в селе Рождествено Лихвинского уезда Калужской губернии и происходил из русского дворянского рода татарского происхождения. Его родители — предводитель дворянства Лихвинского уезда секунд-майор Яков Николаевич Ханыков (1759—1805), мать — Анастасия Маркеловна ур. Мещанинова (1769—1811).
Поступив 15 мая 1804 г. кадетом в Морской корпус, он в 1806 г. был произведён в гардемарины и в 1808 г. принял участие в морской кампании против шведов. 1 апреля 1809 г. Ханыков был выпущен из Корпуса с производством в мичманы и получил назначение адъютантом к контр-адмиралу М. М. Муравьёву.
В 1812 г. находился в составе экипажа брига «Меркурий» при блокаде Курляндских берегов и занятии военного поста у Любека. В 1813 г. по производстве 29 апреля в лейтенанты состоял при вице-адмирале А. С. Грейге на гребной флотилии под Данцигом и участвовал в морском сражении при крепости Вексельмюнде, затем находился для исполнения поручений при капитан-командоре Гетцене в Мекленбургском герцогстве и по распоряжениям относительно взятых у неприятеля судов — в Данциге и Кенигсберге, откуда в 1814 г. был послан во Францию, в главную квартиру императора Александра I.
Вернувшись в том же году в Россию, Ханыков оставался в морской службе ещё до 1819 г., когда был уволен из флота «для определения к статским делам», 22 апреля получил чин коллежского асессора и 16 октября назначен в Собственную Его Императорского Величества канцелярию помощником начальника отделения. Произведённый 30 августа 1821 г. в надворные советники, Ханыков с 1822 г. занимал пост начальника отделения канцелярии; в 1822 г. состоял при графе А. А. Аракчееве во время путешествия императора Александра I по России.
Продолжая занимать должность начальника отделения, Ханыков был последовательно произведён в коллежские советники (15 августа 1824 г.), статские советники (15 августа 1828 г.), действительные статские советники (1 января 1832 г.) и тайные советники (1 января 1841 г.); 9 апреля 1832 г. был пожалован в звание камергера Высочайшего двора и, назначенный 1 января 1841 г. на должность статс-секретаря, неоднократно замещал управляющего делами Комитета министров Н. И. Бахтина. 11 апреля 1843 г. назначен управляющим делами Комитета министров и 1 января 1850 г. — членом Государственного Совета, заседал в Департаменте законов, с сохранением звания статс-секретаря.
В. Я. Ханыков за свою службу имел ордена св. Владимира 4-й степени (30 августа 1823 г.), св. Анны 2-й степени (22 августа 1826 г.), св. Владимира 3-й степени (14 апреля 1829 г.), св. Станислава 2-й степени (1 апреля 1832 г.), св. Анны 1-й степени (17 апреля 1837 г.), св. Владимира 2-й степени (1 июля 1842 г.), Белого Орла (1 января 1845 г.), св. Александра Невского (13 января 1848 г.).
Скончался 15 марта 1850 г. с Санкт-Петербурге, похоронен в Добром Покровском монастыре Лихвинского уезда Калужской губернии.
В. Я. Ханыков был женат на своей троюродной сестре Екатерине Николаевне Ханыковой (1815—1844). У них были дети Яков (1837—1851), Николай (1839—1888), Василий (1841—1862), Клеопатра (1842—1867). Большую известность получили племянники Василия Яковлевича — географы и крупные востоковеды братья Николай и Яков Владимировичи Ханыковы.