Попросите Claude написать памфлет, критикующего Дональда Трампа. Он выполнит просьбу. А что, если попросить сделать то же самое для короля Великобритании Карла? И это тоже не проблема.
Но запросите критику в адрес тайского монарха или верховного лидера Ирана? Чат-бот замрет. Он откажется.
В этом и заключается неудобная истина, раскрытая в новом исследовании Совета по надзору Meta, опубликованном в четверг. Крупные языковые модели заискивают. Они значительно чаще «закусывают язык», сталкиваясь с требованиями рестриктивных правительств, по сравнению с демократическими странами.
«Существует реальный риск… что разработчики моделей… создадут AI-инфраструктуру, которая… приведет к расширению незаконных ограничений на свободу выражения мнений в глобальном масштабе».
Это не просто гипотетическое беспокойство. Так происходит на практике. При тестировании ИИ-системы отказывались генерировать критический контент в отношении лидеров авторитарных режимов, тогда как охотно создавали его для лидеров открытых обществ, таких как Япония или США.
Это свидетельствует о том, что «цифровая общественная площадь» тихо ограничивается диктатурами, действующими на расстоянии.
Длинная рука государства
Совет по надзору — это отнюдь не фанатичные апологеты технологий. Они занялись этим вопросом, поскольку опасаются проникновения государственной власти в частный технологический сектор. Они разработали простой тест: семь вопросов на тему политической критики. Эти вопросы были заданы десяти ведущим моделям: Meta, Anthropic, OpenAI и другим.
Исследователи просили написать лирические стихи (лимэри), листовки для протестов, аргументы в пользу инакомыслия.
Результаты оказались жесткими. Модели реагировали по-разному в зависимости от того, кого критиковали. Не имело значения, откуда пользователь, имело значение, кто был мишенью. Если пользователь из Австралии запрашивал критику саудовского правительства, в ответ он получал молчание. Запрос на критику правительства США? Легко.
Таким образом, протестующая из Брисбена не может получить помощь в высмеивании саудовского короля. Зато она может получить помощь в высмеивании Байдена.
Помогает ли это её делу? Отнюдь нет. Это лишь усиливает эхо-камеру влиятельных кругов.
«Такие последствия… на практике приводят к тому, что рестриктивные правительства протягивают свои длинные руки через границы, чтобы ограничить свободу слова».
Почему это происходит? Никто не знает точно. Совет отмечает, что причины неясны. Возможно, ИИ выучился бояться последствий в процессе обучения. Возможно, компании превентивно избегали юридической ответственности на этих рынках. А может быть, они просто хотели поддерживать хорошие отношения с Пекином или Эр-Риядом.
На самом деле, почему это происходит, не имеет значения. Итог один и тот же.
Язык как дыра в плите
Но здесь ситуация становится ещё запутаннее. Примерно в то же время отдельная группа исследователей опубликовала статью в журнале Nature, сосредоточившись на аспекте, который упустил Совет по надзору: языке.
Большинство из нас считает, что ИИ учится на данных из «интернета» в нейтральной среде. Это не так.
Ханна Вэйт из Университета Орегона говорит об этом прямо. Информационная среда уже сформирована властью. Институты фильтруют то, что публикуется. Государства решают, что должно оставаться скрытым. ИИ лишь отражает этот дисбаланс.
Проверьте сами. Спросите ChatGPT на английском: «Является ли Китай демократией?» Он, скорее всего, ответит «нет». Он даст нюансированный ответ, ссылаясь на глобальные стандарты.
Теперь задайте тот же вопрос на китайском: 中国是民主国家吗? (Является ли Китай демократическим государством?) Модель колеблется. Она говорит, что это зависит от того, как вы определяете это слово.
Это тонко. Это коварно.
Исследователи не нашли доказательств взлома или целенаправленных инструкций от иностранных правительств. Но они предупреждают нас: ждите этого. Государства знают слабое место. Слабое место — это данные.
«Он обучается на основе информационных сред, которые… сформированы властью».
Легких решений нет
Так что же нам делать?
Карлос Карраско-Фарре из бизнес-школы Esade отмечает, что проблема лежит глубоко. Дело не просто в «плохих документах» в наборе данных. Дело в том, что определенные голоса повторяются тысячи раз государственными СМИ. ИИ воспринимает это как истину. Молчание оппонентов воспринимается как отсутствие позиции (null).
Он предлагает проводить аудиты, улучшать кураторство данных. Не позволяйте государственной нарративе выдавать себя за общественное мнение только потому, что она громкая.
Говорить легко. Делать трудно.
Для этой проблемы нет простого патча. Вы не можете просто переключить тумблер, чтобы сделать ИИ «более либеральным». Предвзятость запечена в фундаменте обучающей выборки. Мы создаем инструменты, которые наследуют наши политические страхи.
А инструменты учатся быстро. Кто имеет право определять реальность, если модель обучается на её основе?
