О. П. Жаков родился 19 марта (1 апреля) 1905 в Сарапуле, (ныне - в Удмуртской Республике, Россия).
В 1929 году окончил Ленинградский техникум сценических искусств. С 1926 года снимается в кино на разных киностудиях страны. Внимание зрителей привлёк исполнением главных ролей в кинолентах «Семеро смелых» и «Мы из Кронштадта». Затем много снимался, как в военно-героических фильмах, так и в драматических ролях, из которых стоит отметить работы Олега Жакова в картинах «Нашествие» и «У озера».
Путь в кино не был для него простым и лёгким — он участвовал в истории развития советского кинематографа чуть ли не от момента его зарождения и вплоть до середины 80-х годов 20века.
В 1912 году семья Жаковых из Сарапула переехала в Казань, где Олег закончил церковно-приходскую школу и два класса реального училища. Потом переехали в Екатеринбург. Там, после окончания средней школы, Олег работал на электростанции. Затем поступил в политехникум на педагогическое отделение, проучился три курса и понял, что педагогика мало привлекает его.
В ту пору познакомился с местными молодыми энтузиастами театра, увлечёнными новыми веяниями в искусстве — П. С. Соболевским и С. А. Герасимовым — тем самым Герасимовым, чье творчество впоследствии стало интереснейшей страницей кинематографа 30-40х годов, а потом и последующих десятилетий. Они вскоре уехали в Ленинград учиться, за ними решил податься и Олег Жаков.
16 января 1926 года — незабываемая для него дата: прибыл «на брега Невы». Соболевский и Герасимов уже занимались в студии ФЭКС (фабрика эксцентризма) у Г. М. Козинцева и Л. З. Тауберга, и Олегу помогли попасть туда. Как же он был горд, когда впервые снялся в массовке в экранизации гоголевской «Шинели»! Олег Петрович вспоминал: «Мы снимались на первобытной чёрно-белой пленке, при примитивном освещении, в немом кинематографе — и были счастливы!»
Именно тогда он сразу и окончательно решил: будет киноактёром, и всё… После студии ФЭКС Олег Жаков учился на киноотделении Ленинградского техникума сценических искусств, а затем работал на студиях «Ленфильм», «Мосфильм».
Судьба не раз сталкивала Олега Жакова с Сергеем Аполлинариевичем Герасимовым. С. А. Герасимов, уже маститый режиссёр, вспоминал как-то о том сложном периоде в истории кино, когда из немого оно превратилось в звуковое. Это был трудный, мучительный этап перестройки для актёра, хотя и таящий огромные возможности психологического постижения человека. В первой звуковой картине С.Герасимова «Семеро смелых» играл Олег Жаков, и эта его роль — роль немецкого эмигранта Курта Шефера, стала одной из самых ярких творческих удач актёра.
Сорок лет спустя, С. А. Герасимов пригласил О. П. Жакова, уже прославленного артиста, в картину «У озера», где с присущей ему реалистической правдивостью, тот сыграл роль профессора Бармина — истового хранителя Байкала. Одним из партнеров Олега Жакова в этом фильме был В. М. Шукшин.
Актёр жив ролями. Актёр Олег Жаков снялся более чем в ста фильмах. Его герои, как правило, мужественны и сдержаны, скромны и значительны, героичны и самоотверженны, они — личности. Для мальчишек предвоенной и военной поры герои О.Жакова значили гораздо больше, чем просто персонажи экрана. Ведь это была классика, на которой воспитывались целые поколения. («Депутат Балтики», «Мы из Кронштадта», «Великий гражданин»). Среди ролей, сыгранных О. П. Жаковым, были разные — и положительные, и отрицательные, но каждая из них была настолько живой, точной до малейшего жеста, нюанса, что подрастающее поколение училось по ним отличать и в жизни хорошее от дурного, утверждалось в своих идеалах.
Олег Жаков работал с такими замечательными мастерами экрана, как Б. Ф. Андреев, Н. К. Черкасов, Б. Н. Ливанов, П. М. Алейников, Б. А. Бабочкин…
Последней работой актёра был фильм «Жаркое лето в Кабуле», где он снялся без малого в восемьдесят лет.
Зрители часто представляют себе любимых актёров в жизни такими же, каковы те на экране. Все, кто знакомился с О. П. Жаковым, потом говорили, что он «совершенно такой!» Его, — одного из немногих в нашем кино — называли «актером на все времена», так как он всегда был «у дел» и неизменно вызывал у зрителей разных поколений глубочайшее уважение. И пока живут фильмы с участием Олега Жакова, будет жива и наша память об этом замечательном артисте.
Ушёл из жизни в Пятигорске 4 мая 1988 года.Похоронен на Краснослободском кладбище Пятигорска.