Широко поширена дезінформація та теорії змови, що оточують смерть Чарлі Кірка, консервативного коментатора, висвітлюють критичну помилку використання чат-ботів ШІ для висвітлення останніх новин. Після того, як на нього напали під час публічного заходу в Юті, Інтернет швидко наповнився неперевіреними твердженнями та припущеннями, підживленими неточними та оманливими відповідями чат-ботів ШІ. Інцидент підкреслює обмеження штучного інтелекту, коли справа доходить до точного та відповідального звітування про події, що швидко змінюються.
Дезінформація, яку підживлюють боти
Початкові повідомлення про інцидент були хаотичними, з невизначеністю щодо того, живий чи мертвий Чарлі Кірк. Ця невизначеність створила благодатний ґрунт для спекуляцій в Інтернеті, і користувачі швидко перейшли в соціальні мережі, щоб поширити та розширити непідтверджену інформацію. Однак чат-боти штучного інтелекту, інтегровані в такі платформи, як X, і доступні через такі служби, як Google, часто посилювали проблему, надаючи неточну або оманливу інформацію.
- Суперечливі повідомлення: чат-боти штучного інтелекту надсилали суперечливі повідомлення, деякі спочатку стверджували, що Кірк помер, а потім відкликали цю інформацію.
- Підтвердження теорій змови: В інших випадках чат-боти підтверджували існуючі теорії змови, зокрема твердження про організовані вбивства та участь іноземних сил, надаючи відповіді, згенеровані штучним інтелектом, які підтверджували ці неправдиві наративи.
- Оманливі заяви: один чат-бот неправильно заявив, що CNN, NYT і Fox News ідентифікували зареєстрованого демократа як підозрюваного, що виявилося неправдою. Інший бот описав відео інциденту як «мем», незважаючи на те, що експерти з безпеки підтвердили його достовірність.
Роль алгоритмічного зміщення
Неточні повідомлення від чат-ботів зумовлені рядом факторів, властивих технології штучного інтелекту.
- Відсутність людської перевірки: На відміну від людей-журналістів, чат-боти не можуть телефонувати місцевим чиновникам, отримувати доступ до першоджерел або перевіряти справжність візуальних матеріалів — критичні кроки під час перевірки інформації.
- Ефект відлуння камери: Алгоритми штучного інтелекту мають тенденцію віддавати пріоритет інформації, яка часто повторюється, дозволяючи неправдивим заявам набирати обертів і заглушати точні звіти.
- Пріоритет для «найгучніших голосів»: Чат-боти сприйнятливі до повторюваних заяв із веб-сайтів із низьким рівнем залучення, публікацій у соціальних мережах і створених штучним інтелектом контент-ферм, керованих зловмисниками.
Більш широка тенденція: зміна стратегій перевірки новин
Інцидент стався в той час, коли великі технологічні компанії все більше покладаються на штучний інтелект і модерацію вмісту спільноти для керування переглядом новин, що викликає занепокоєння щодо майбутнього новинної грамотності.
- Зменшення кількості перевіряючих фактів: Багато компаній скоротили інвестиції в перевірку фактів людьми на користь модерації вмісту ШІ.
- Дивіденд брехуна: ШІ дозволяє людям стверджувати, що справжня інформація є неправдивою, поширюючи плутанину та недовіру, явище, відоме як «дивіденд брехуна».
- Зменшення довіри до традиційних джерел. Опитування Pew Research показує, що люди, які бачать результати пошуку, згенеровані штучним інтелектом, рідше переходять до додаткових джерел, ніж ті, хто користується традиційними пошуковими системами.
Маккензі Садегі, дослідник NewsGuard, лаконічно зазначає: «Алгоритми не запитують коментарів», наголошуючи на незамінній ролі людського судження у відповідальній журналістиці. Дебора Тернесс, генеральний директор BBC News and Current Affairs, повторила цю думку, попередивши: «Скільки часу мине, перш ніж спотворений штучним інтелектом заголовок завдасть значної шкоди в реальному світі?»
Випадок Чарлі Кірка служить яскравим нагадуванням про необхідність бути обережними та скептичними, покладаючись на чат-боти штучного інтелекту для висвітлення останніх новин, і підкреслює триваючу дискусію про роль штучного інтелекту в медіа-ландшафті, що швидко розвивається.
Дедалі більша залежність від штучного інтелекту для збору новин викликає занепокоєння щодо зростання дезінформації та впливу ШІ на новини та політику.
