В 1859 г. он был произведён в поручики и назначен для особых поручений к главнокомандующему Кавказской армией генерал-фельдмаршалу князю Барятинскому.
В этом же году он был награждён орденом св. Анны 3-й степени с мечами и бантом за особое отличие в делах против горцев при взятии аула Гуниба.
В 1860 г. уже в чине капитана и командира 3-й роты 20-го стрелкового батальона граф получил за отличие в делах с горцами орден св. Станислава 3-й степени, также с мечами и бантом, и в том же году 27 сентября при взятии штурмом аула Беной был тяжело ранен.
В 1861 г. он снова перевелся в Кавалергардский полк ротмистром с назначением адъютантом к главнокомандующему Кавказской армией, а в 1863 г. был переведён, с производством в подполковники, в Кабардинский пехотный полк.
В следующем 1864 г. граф был сделан флигель-адъютантом, произведён в полковники, и послан курьером в Лондон.
Вернувшись в Россию он в 1865 г. ездил в Воронежскую губернию наблюдать за рекрутским набором и был несколько раз посылаем на Кавказ к великому князю наместнику Михаилу Николаевичу по разнообразным поручениям.
Произведённый 6 декабря 1866 г. в генерал-майоры с назначением в свиту, продолжая вместе с тем числиться по армейской пехоте, граф был назначен Симбирским губернатором. При нем продолжилось восстановление Симбирска после пожара 1864 г., впервые был построен водопровод, открыта чувашская школа просветителем И. Я. Яковлевым. После смерти В. В. Орлова-Давыдова, его отец, Владимир Петрович, в 1871 г. учредил в Симбирске ремесленное училище его имени с пожертвованием 200 000 рублей.
В октябре 1868 г. он уволился от должности губернатора и был причислен к Министерству внутренних дел, с оставлением в свите. Скончался граф В. В. Орлов-Давыдов на острове Корфу 7 апреля 1870 г.