Родился в семье переводчика с корейского языка Ким Чер Сана (1904—1938) и учительницы русского языка и литературы Нины Валентиновны Всесвятской (1907—1974). В 1938 году его отец был расстрелян, мать до 1946 года была в ссылке. После ареста родителей 16 лет провёл в Калужской области и в Туркмении. В 1954 году вернулся в Москву.
Окончил историко-филологический факультет Московского государственного педагогического института (1959), работал пять лет (до 1963) по распределению на Камчатке, затем несколько лет в Москве, преподавал историю и обществоведение (в том числе — в школе-интернате номер 18 при МГУ им. М. В. Ломоносова).
Уже в эти годы Юлий Ким стал писать и разыгрывать с учащимися авторские песенные композиции с интермедиями и вокальными сценами, в которых были все элементы мюзикла.
В 1965—1968 годах Юлий Ким становится одним из активистов правозащитного движения, вследствие чего вынужден был вплоть до 1985 г. публиковаться под псевдонимом Ю. Михайлов. В 1966 году он женился на Ирине Петровне Якир (1948—1999) — внучке репрессированного командарма И. Э. Якира. Отец Ирины, известный правозащитник и диссидент Пётр Якир, был арестован в 14 лет и вышел на свободу только в 32 года.
Юлий Ким в 1967—1969 подписывал многочисленные коллективные письма с требованиями соблюдения прав человека, адресованные властям. Он, вместе со своим тестем П. Якиром и с И. Габаем, был соавтором обращения «К деятелям науки, культуры и искусства» (январь 1968) о преследованиях инакомыслящих в СССР. Проходил в оперативных сводках КГБ под кодовым названием «Гитарист». К этому же периоду относится и ряд песен Кима, тематически связанных с «диссидентскими» сюжетами: суды, обыски, слежка и т. п.
Ещё будучи студентом пединститута Юлий Ким начал писать песни на свои стихи (с 1956 г.) и исполнять их, аккомпанируя себе на семиструнной гитаре с особым «цыганским» строем. Его первые концерты прокатились по Москве в начале 1960-х годов, молодой автор быстро вошёл в круг самых популярных бардов России.
С 1968 г. стал профессионально заниматься сочинением песен и пьес для театра и кино. Будучи участником диссидентского движения, долгое время появлялся в титрах кинофильмов и афишах спектаклей под псевдонимом «Ю. Михайлов», поскольку фамилия «Ким» звучала для начальства по-диссидентски крамольно. При этом публиковаться он не мог даже под псевдонимом.
В марте 1968 года Юлий Ким вместе с Александром Галичем, Владимиром Бережковым и другими бардами участвует в фестивале авторской песни, организованном клубом «Под интегралом».
Большинство песен Юлия Кима написано на собственную музыку, многое написано также в соавторстве с такими композиторами, как Геннадий Гладков, Владимир Дашкевич, Алексей Рыбников.
В 1970—1971 Ким принимал участие в работе по подготовке «Хроники текущих событий». Некоторые ее выпуски этого периода практически полностью отредактированы им. Затем Юлий Ким отошел от активной правозащитной деятельности.
В 1974 году Юлий Ким вступает в Московский профком драматургов и начинает работу над собственными пьесами.
В 1985 году он исполнил главную роль в спектакле по своей пьесе «Ной и его сыновья». В том же году отказался от использования псевдонима и начал публиковаться под собственным именем. Тогда же вышел первый диск с его песнями — «Рыба-кит».
К настоящему времени дискография Юлия Кима насчитывает более 20 наименований дисков, аудио- и видеокассет с записями песен. Песни Юлия Кима вошли во все антологии авторской песни, а также во многие поэтические антологии современной русской поэзии, в числе которых «Строфы века» (составитель Е. Евтушенко, 1994).
Юлий Ким — член Союза кинематографистов СССР (1987), Союза писателей (1991), Пен-клуба (1997). Автор около пятисот песен (многие из них звучат в кинофильмах и спектаклях), трёх десятков пьес и десятка книг.
Лауреат премии «Золотой Остап» (1998). Лауреат российской Государственной премии им. Булата Окуджавы (2000). В 2002 году перевёл мюзикл Нотр-Дам де Пари на русский язык, является автором русской версии сценария этого знаменитого спектакля и большинства зонгов.
С 1998 года живет попеременно в Иерусалиме и Москве. Член редколлегии «Иерусалимского журнала». Участвовал в записи «Иерусалимского альбома» — первого диска из серии «Авторская песня в Израиле».
В Израиле Юлий Ким два раза в год проводит презентации «Иерусалимского журнала», вместе с поэтом и редактором «Иерусалимского журнала» Игорем Бяльским и Игорем Губерманом, ведёт презентации журнала и в Москве.
В Израиле сочиняет песни в соавторстве с композитором и бардом Мариной Меламед. В 2002—2006 году Юлий Ким совместно с Игорем Бяльским написал пьесу в стихах о строительстве второго Храма.
7 марта 2008 года Юлий Ким вместе с другими бардами участвовал в фестивале авторской песни «Снова „Под интегралом“ — 40 лет спустя», посвященном возрождению клуба «Под интегралом» и сорокалетию фестиваля 1968 года.
В 2010 году написал стихи на музыку П.Чайковского к полнометражному мультфильму Гарри Бардина «Гадкий утёнок» (по Г. Х. Андерсену).
Песни Кима прозвучали в 50 фильмах, среди которых: