С 1938 — в НКИД СССР.
В 1938—1939 работал в Консульстве СССР в Клайпеде (Литва).
1939—1940 — в аппарате НКИД СССР.
С 1940 по 22 июня 1941 — Консул—Генеральный консул СССР в Кёнигсберге (Германия)
1943—1945 — Генеральный консул СССР в Нью-Йорке (США). Установил хорошие отношения с деятелями культуры из числа русских и европейских эмигрантов, устраивал для них приёмы, которые являлись выражением поддержки Советскому Союзу в войне с Германией. Среди посещавших приёмы: Артуро Тосканини, Бруно Вальтер, Александр Гречанинов, Николай Малько, Владимир Горовиц, Поль Робсон. Встречался с Экзархом Русской Церкви в США митрополитом Вениамином (Федченковым). По совету Киселёва владыка Вениамин написал автобиографическую книгу «На рубеже двух эпох».
1945—1948 — политический советник по делам Австрии при Главнокомандующем Центральной группой войск.
1946—1948 — политический представитель СССР в Австрии
1948—ноябрь 1949 — заведующий Балканским отделом МИД СССР.
С ноября 1949 по 14 июля 1954 являлся Чрезвычайным и Полномочным Послом СССР в Венгрии.
В 1954—1955 занимал должности заведующего Протокольным отделом МИД СССР и заместителя заведующего II-м Европейским отделом МИД СССР.
31 декабря 1955—22 февраля 1958 — Чрезвычайный и Полномочный Посол СССР в Египте.
4 августа 1956—10 августа 1959 — Чрезвычайный и Полномочный Посланник СССР в Йемене (по совместительству).
22 февраля 1958—3 августа 1959 — Чрезвычайный и Полномочный Посол СССР в Объединённой Арабской Республике
В 1959—1962 заведовал Отделом стран Ближнего Востока МИД СССР.
С 1962 по 1963 — заместитель Генерального секретаря Организации Объединённых Наций.