В 1961 году окончил МГИМО МИД СССР и поступил на дипломатическую службу.
1961-1963 - работал в посольстве СССР в Румынии.
1963-1967 - сотрудник первого Европейского отдела МИД СССР.
1967-1972 - сотрудник посольства СССР в Италии.
1972-1978 - первый секретарь, советник первого Европейского отдела МИД СССР.
1978-1984 - советник-посланник посольства СССР в Италии и Генеральный консул СССР в Республике Сан-Марино.
1984-1986 - заместитель заведующего первым Европейским отделом МИД СССР.
1986-1989 - ответственный секретарь Комиссии СССР по делм ЮНЕСКО.
1987-1990 - первый заместитель председателя Комиссии СССР по делам ЮНЕСКО.
Являлся членом Исполнительного совета ЮНЕСКО.
1989 - личный представитель Министра иностранных дел СССР Эдуарда Амвросиевича Шеварднадзе. В этой должности в августе того же года участвовал во встрече с папой Иоанном Павлом II в папской резиденции Кастель-Гандольфо, которая явилась подготовительной для встречи президента СССР Михаила Сергеевича Горбачёва с римским папой Иоанном Павлом II, которая состоялась в декабре в Ватикане. На этой встрече стороны приняли решение об установлении официальных отношений на постоянной основе. В качестве представителя СССР в Ватикане была рассмотрена кандидатура Юрия Карлова, который в этом регионе проработал дипломатом более 20 лет.
C 1990 года в Риме, представитель СССР по поддержанию контактов с Ватиканом, в 1992 году ввиду распада СССР должность упразднена. В январе 1992 года Ватикан признал Россию в качестве правопреемницы СССР и установил с ней отношения также на уровне постоянных представительств. С 1992 по 1995 год представитель Российской Федерации при Ватикане, одновременно представитель Российской Федерации при Мальтийском ордене. На этих должностях в 1995 году его меняет Вячеслав Васильевич Костиков, Ю. Е. Карлов отбывает в Москву.
1995-1998 - Главный советник Третьего Европейского департамента МИД России и Полномочный представитель Президента Российской Федерации в переговорном процессе политического урегулирования конфликта в Приднестровском регионе Республики Молдова.
С 1998 года - профессор международного права в МГИМО(У), с 2001 года - заведующий кафедрой ЮНЕСКО.
С 1998 года - член Христианского комитета за сближение народов.
В последние годы жизни возглавлял Ассоциацию культурного и делового сотрудничества «Россия - Италия».
Читал лекции по международному, конституционному и церковному праву в университетах Рима, Бари, Болоньи, Флоренции, Падуи. Участвовал в ряде сессий Генеральной Ассамблеи ООН, а также ЮНЕСКО. Принимал участие во встрече юристов в Ватикане по вопросам прав ребенка в 1998 году, а также в совещаниях ОБСЕ в Вене и Копенгагене.
Доктор юридических наук, кандидат исторических наук.
Юрий Евгеньевич Карлов скончался 12 декабря 2002 года в Центральной клинической больнице в Москве.