Отто Цилиакс поступил в кайзеровский военно-морской флот кадетом 1 апреля 1910 года и начал свое обучение на борту броненосного крейсера «Victoria Louise», служил на котором до 31 марта 1911 года. Первое офицерское звание — младший лейтенант (F?hnrich zur See) получил 15 апреля того же года, уже поступив в военно-морскую академию, в которой учился с 1 апреля 1911 по 30 сентября 1912. Следующим местом его службы был лайнер «Hannover» (1 октября 1912 — 30 ноября 1915), где 27 сентября 1913 года был повышен в звании до лейтенанта (Leutnant zur See).
В декабре 1915 года Цилиакс прошёл одномесячный курс подводников и на следующий краткий период (2 января — 20 февраля 1916) стал вахтенным офицером на миноносце T-37. С 21 февраля по 15 марта участвовал в приёмных испытаниях на новой подводной лодке U-52. 16 марта он был назначен вахтенным офицером на данной подлодке, и 22 марта был повышен в звании до старшего лейтенанта (Oberleutnant zur See).
Во время службы на U-52 (до 14 октября 1917 года) был награждён Железными крестамми II-го и I-го класса.
После службы на лодке до конца Первой мировой войны проходил службу на следующих должностях:
После окончания войны, некоторое время был поочередно командиром миноносцев — «T-92» и «T-107» (15 марта — 30 ноября), T-181 (1 декабря — 18 января 1920), T-140 и T-145 (19 января — 31 декабря), служа на последнем 29 июня 1920 года произведён в капитан-лейтенанты (Kapit?nleutnant).
Продолжение его карьеры происходило на берегу и следующих военных кораблях:
С приходом к власти Гитлера, Цилиакс 1 октября 1933 года повышен в звании до капитана второго ранга (Fregattenkapit?n). 29 сентября 1934 года он назначен начальником флотского отдела, а затем и оперативного отдела военно-морского командования (11 января 1936 года отдел переименован в «Главное командование военно-морского флота» (OKM — Oberkommando der Marine) и оставался на должности до 21 сентября 1936 года. В это время повышен в звании — 1 июля 1935 года стал капитаном первого ранга (Kapit?n zur See).
22 сентября 1936 года назначен командиром карманного линкора «Адмирал Шеер». Оставался им до 30 октября 1938 года. В это же время был временным командующим немецкими военно-морскими силами в Испании.
22 марта — 26 июня 1938 года в качестве командира «Адмирала Шеера» участвовал в блокаде снабжения республиканцев во время гражданской войны в Испании.
С 1 ноября 1938 года находился в распоряжении штаба главнокомандующего линейными силами, 7 января 1939 года был назначен командиром новейшего линейного крейсера «Шарнхорст», которым комвандовал до 28 сентября 1939 года (участия в боевых действиях крейсер в этот период не принимал).
В сентябре 1939 года возглавил штаб командования группы военно-морских сил «Запад».
С июня 1941 по май 1942 года осуществлял командование действиями линкоров.
В феврале 1942 года успешно провёл операцию «Цербер» по передислокации из Бреста в порты Германии трёх крупных боевых кораблей — крейсеров «Шарнхорст», «Гнейзенау» и «Принц Ойген».
В начале марта 1942 года руководил операцией «Sportpalast», целью которой являлся перехват группой кораблей в составе линкора «Тирпиц» и трёх эсминцев арктических конвоев PQ-12 и QP-8 в Северном Ледовитом океане (из-за плохой погоды конвои обнаружить не удалось и корабли вернулись на базу, потопив одно случайное судно).
С 26 июня 1942 года по март 1943 года инспектировал торпедные катера.
4 марта 1943 года в звании адмирала назначен главнокомандующим военно-морскими силами в Норвегии.
Занимал эту должность до 25 февраля 1945 года, когда был взят в плен союзниками.
После освобождения 24 февраля 1946 года проживал в ФРГ.
5 июля 1949 года Отто Цилиакс с группой бывших немецких офицеров по приглашению норвежской разведки тайно прибыл в Норвегию для консультаций по вопросу защиты страны от возможной военной угрозы со стороны Советского Союза.
Умер 12 декабря 1964 года в Любеке.