Это уже не секрет. У Grokipedia Илона Маска есть политическая ангажированность. Не повсеместно и не всегда. Но всё же. В ключевых точках. В темах, которые вызывают споры. Религия. История. Литература. Искусство. Здесь энциклопедия на базе ИИ склоняется вправо.
Такое заключение гласит новое исследование.
Исследователи из Колледжа Тринити в Дублине и Технологического университета Дублина углубились в анализ. Они не строили догадок. Они смотрели на данные. Было изучено почти 18 001 наиболее редактируемая статья в английском разделе Википедии. Самые популярные темы. Затем они нашли их аналоги в Grokipedia. Проект ИИ от Маска был запущен в прошлом октябре, став цифровым конкурентом царю бесплатных знаний.
Контраст был очевидным. Или, возможно, просто тихим. В целом. Две энциклопедии выглядят политически похожими. Но если присмотреться внимательнее к чувствительным темам, становится ясно: Grokipedia чаще использует источники с правым уклоном, чем Википедия.
Это один из выводов. Другой ещё страннее. Две трети статей Grokipedia в этой выборке были значительно переработаны. Разобраны и собраны заново. При этом использовалось меньше источников, чем в версии Википедии. Меньше глаз. Меньше контроля.
Вы можете подумать, что это новость. Но не совсем. Предварительный отчет, опубликованный в январе, предсказывал это. В том докладе отмечалась общая тенденция к левому уклону в Grokipedia, но предупреждалось, что на спорные темы всё же может приоритизироваться контент с правым уклоном. Так что текущее исследование подтверждает опасения.
Пока ученые разбираются в цитатах, регуляторы стучат в дверь. В январе Европейская комиссия начала расследование в отношении xAI Илона Маска, используя Закон о цифровых услугах. Им нужно понять: поступал ли в ЕС незаконный контент? Подделанные изображения сексуального характера. Такого рода вещи, которые разрушают доверие.
Это поворотный момент. Генеративный ИИ меняет то, как мы узнаем мир. И делает это в темноте.
«В отличие от Википедии, где предвзятость видна… системы на базе ИИ работают преимущественно непрозрачно».
Саеде Мохаммади, ведущий автор исследования, высказалась прямо. Вы можете заметить предвзятость в правке, сделанной человеком. Вы можете с ней бороться. С ИИ? Смещения происходят. Точки зрения меняются. Но никто не подписывает результат. Нет ответственности.
Ставки кажутся знакомыми. Или должны быть таковыми. Таха Яссари, профессор из Колледжа Тринити, видит параллель с социальными сетями. Помните этот хаос? Ограниченный контроль привел к дезинформации. Она повлияла на выборы. Повредила общественное здравоохранение. Потрясла общество. Теперь. Та же структура применяется к фактам. К энциклопедиям.
«Мы свидетельствуем массовую… регенерацию информации», — говорит он.
Черный ящик. Большие языковые модели. Закрытые для нас. Закрытые для проверки. Мы отдаем наше понимание истории коду, который не можем видеть. Нам не разрешено дискутировать об алгоритме.
Кто редактирует истину, когда никто не держит перо?
