Одна трибуна, 191 голос, три вопроса
Каждый сентябрь все государства-члены выступают с одной трибуны, в одном формате и в течение одной недели. Поэтому общие прения — лучшее место, чтобы сравнить, что правительства готовы сказать публично. Эти выступления стратегичны: государство говорит то, что хочет донести до других.
Доклад задаёт текстам три вопроса. Как часто государства требуют институциональных изменений ООН и мирового порядка? Как часто они признают риски искусственного интеллекта? И как часто обосновывают первое вторым?
Три разграничения, которые определяют чтение
Критика — не требование реформы. Осуждать институт не значит просить о конкретном изменении.
Обсуждать риск — не значит признавать его. Оратор может упомянуть угрозу лишь для того, чтобы её отвергнуть.
Соседство — не связь. Если в одной речи упомянуты реформа и ИИ, это ещё не значит, что одно служит доводом для другого.
Требовать реформы — норма
162 из 191 текста (84,8%) требуют хотя бы одного институционального изменения. Реформа — правило, а не исключение.
Но признак фиксирует наличие требования, а не его направление. США приветствуют сокращение бюджета ООН на 15% и упразднение более четырёх тысяч должностей. Другие просят усилить организацию. И то и другое считается «реформой ООН», поэтому 79% нельзя читать как поддержку более сильной ООН.
Критика — ещё не программа
152 из 190 текстов критикуют нынешний международный порядок. Критика и реформа обычно идут вместе, но не всегда.
14 текстов критикуют, но ничего конкретного не требуют. В выступлении Бразилии говорится, что ООН не справляется с одной из главных своих миссий, а право вето названо изъяном, заложенным в Устав. Конкретного институционального изменения текст не называет, поэтому все пять признаков реформы равны нулю.
Её авторитет никогда не был так низок.Оригинал: “Its credibility has never been lower.”Бразилия · Президент Луис Инасиу Лула да Силва · 22 сен. · источник, с. 1–2
23 текста требуют реформы без критики. Мексика поддерживает реформу, начатую Генеральным секретарём, и вместе с Норвегией основала группу в её поддержку, не упрекая существующий порядок.
ИИ поднялся на трибуну
Искусственный интеллект назван в 133 из 191 текста (69,6%). Он стал обычным пунктом дипломатической повестки.
Два оратора упоминают угрозу, чтобы её отвергнуть. США отвергают любую схему глобального контроля над ИИ, а катастрофические прогнозы приписывают своим оппонентам. Аргентина называет антиутопические сценарии экономически бессмысленными и обязуется не регулировать превентивно.
Это те же люди, которые сейчас говорят, что ИИ нас всех убьёт.Оригинал: “These are the same people that are now saying that AI is going to kill us all.”США · Президент Дональд Трамп · 22 сен. · источник
58 текстов вообще не упоминают ИИ. Среди них Кения, чьё выступление требует всех пяти видов реформы, а также Индонезия, Мексика, Швеция, Дания, Ирландия и Новая Зеландия. Молчание — не отказ: оно ничего не говорит о том, насколько важен вопрос для государства.
Риск признан — прежде всего как неравенство
Половина прений признаёт, что ИИ несёт риски: 94 из 191 текста (49,2%). Чаще всего опасаются, что ИИ углубит разрыв между странами.
Он может и углубить неравенство, если инфраструктура, знания и выработка правил останутся сосредоточены в нескольких странах.Оригинал: “It can also widen inequality if infrastructure, knowledge and rule-making remain concentrated in a few countries.”Сьерра-Леоне · Президент Джулиус Маада Био · 22 сен. · источник, с. 13
Риск потери контроля и угроза выживанию человечества редки: 12 и 6 текстов, а при строгом прочтении — 8 и 2. Литва предупреждает, что контроль над ИИ может ускользнуть из рук человечества. Кот-д’Ивуар и Лихтенштейн — два однозначных случая экзистенциального риска.
Две темы, одна речь, моста нет
88 текстов (46,1%) содержат и требование реформы, и признанный риск ИИ. На первый взгляд две повестки переплетены.
Но если прочитать тексты, 60 из этих 88 их не связывают. Япония требует срочной реформы Совета Безопасности и называет риски ИИ — национальную безопасность и дезинформацию, но обосновывает реформу общими вызовами, а управлением ИИ занимается через собственный Хиросимский процесс.
Бывает и наоборот. Греция и Украина предупреждают, что ИИ может выйти из-под контроля человека, но ни одна из них не требует реформы ООН или мирового порядка. Острота риска сама по себе не превращается в институциональное требование.
…уже существует реальная возможность, что исход на поле боя будут решать не только люди, но и ИИ.Оригинал: “there is already a real possibility that AI – not only people – will begin to decide what happens on the battlefield”Украина · Президент Владимир Зеленский · 23 сен. · источник, с. 9
Узкий мост: 27 выступлений
Лишь 27 из 190 текстов (14,2%) обосновывают институциональные изменения рисками ИИ. Десять из них — пограничные случаи; при строгом прочтении остаётся 17.
Даже эти 27 просят не об одном и том же. Они указывают на разные институциональные площадки:
Обязательный инструмент
Диалог может сблизить позиции, но обязательств он не создаёт.Оригинал: “Dialogue can bring positions closer, but it does not create obligations.”Бахрейн · Министр иностранных дел Абдуллатиф бин Рашид аз-Заяни · 25 сен. · источник, с. 6–7
Правила под эгидой ООН
Реформа ООН как ответ
Кто пишет правила
Вне ООН
Один признак, противоположные требования
28 текстов требуют изменить право вето. Вместе они выглядят как один лагерь. Если читать по отдельности, они тянут в три стороны.
Покончить
Испания, Мальдивы, Малайзия и Финляндия, по словам которой право вето не должно быть ни у одного государства.
Сдержать
Франция, Эстония и Барбадос поддерживают отказ от вето при массовых злодеяниях. Ливан, называя себя реалистом, просит ограничить применение вето, а не отменить его.
Разделить
Общая африканская позиция: постоянные места со всеми прерогативами, включая вето, «пока оно существует» (Нигерия, Сьерра-Леоне).
Маврикий занимает две позиции сразу: если вето сохранится, новые постоянные члены должны его получить, и при этом страна поддерживает инициативу сдержанности. Россия хочет расширить Совет, не меняя правила вето, поэтому в признак вето вообще не попадает.
Тексты расходятся даже в фактах. По данным Франции, франко-мексиканскую инициативу сдержанности поддерживают 128 государств, по данным Барбадоса — 123.
Число сторонников — не аргумент
Частота показывает, что тема в дипломатической повестке. Она не показывает общей модели, согласованных действий или того, какая позиция верна. Реформы требуют 162 текста, но эти 162 не поддерживают один проект. Любую институциональную модель стоит оценивать по тому, как она отвечает на три вопроса, вытекающих прямо из прений:
Кто может остановить решение?
По какому вопросу, на каком основании и кто проверяет такую остановку? В прениях есть сторонники отмены, ограничения и распространения вето. Модель, которая учитывает только одних, потеряет двух других.
Как распределяются деньги, голос и доступ?
Реформы финансовой архитектуры требуют 73 текста, а среди рисков ИИ чаще всего называют неравенство. Модель, которая касается только безопасности, оставляет без ответа самую частую тревогу.
Что обязательно и для кого?
В одном зале сидят государства, требующие обязательных международных правил, и государства, отвергающие глобальный контроль.
Риск ИИ пока не стал общим доводом в пользу реформы. Управление ИИ обсуждают 101 текст, риск признают 94, но лишь 27 используют этот риск, чтобы обосновать институциональные изменения. А повестка реформ полна и без ИИ: 42 текста требуют реформы и не упоминают ИИ, из них 29 — реформы Совета Безопасности и 18 — финансовой архитектуры.
Интерпретационная оптика CIPRF · отдельно от выводов
Исследовательская программа CIPRF по оптимализму (Эмзар Хвичия) ставит те же вопросы с другой стороны: как обеспечить сосуществование разных функций, не требуя от всех одной модели. Исследование берёт у доктрины вопрос, а не принцип распределения, и добавляет условия, которых нет в источниках: равные права, недопустимость дискриминации, обязанность обосновывать решения и право на обжалование. Эти данные доктрину не подтверждают и не опровергают.
Читайте с осторожностью
- Текст — не произнесённая речь. 158 текстов взяты из PDF с текстовым слоем, 20 — из отсканированных PDF, восстановленных оптическим распознаванием, 13 — из автоматических транскриптов. Ни один не сверялся с видео. В двух случаях транскрипт содержит фрагменты, которых нет в представленном тексте.
- Машинное кодирование. Тексты кодировали языковые модели. 24 из 130 заново закодированных текстов вслепую перекодировала вторая модель: совпадение 96,9% (альфа Криппендорфа 0,92). Слабее всего признак мирового порядка (альфа 0,53). Совпадение двух моделей не доказывает точности.
- Упоминание, а не вес. Признак фиксирует, касается ли текст темы, а не сколько места ей уделено. Направление требования не кодировалось.
- 191 — не 193. Нет Афганистана и Мьянмы, пять ячеек неизвестны. Пропуски нигде не считаются нулём; если обоим отсутствующим членам приписать все «да» или все «нет», доля требующих реформы останется между 83,9% и 85,0%.
- Описание, а не причина. 191 текст — полный график, а не выборка. Ни одна цифра здесь не подтверждает причинного вывода.