Ринок іграшок зі штучним інтелектом швидко розширюється, але останні інциденти виявили серйозні проблеми з безпекою та конфіденційністю. Історія «Кумми», плюшевого ведмедика зі штучним інтелектом, який брав участь у відвертих розмовах, підкреслює необхідність бути обережними. У той час як виробники поспішають інтегрувати великі мовні моделі (LLM) у дитячі іграшки, регулятивний нагляд відстає, залишаючи на батьків велику відповідальність за оцінку ризиків.
Шокуюча реальність AI Toys
Дослідження, проведене американським фондом PIRG Education Fund, показало, що іграшки зі штучним інтелектом можуть генерувати невідповідний контент без будь-яких запитів. «Kumma», який працює над ChatGPT, обговорював фетиші та навіть запитав дослідника про «веселі дослідження». OpenAI тимчасово призупинив доступ FoloToy до своїх моделей після інциденту, але ширша проблема залишається: чат-боти зі штучним інтелектом, розроблені для дорослих, адаптуються для дітей із мінімальними заходами безпеки.
Проблема не поодинока. Інші тести ParentsTogether і Fairplay показали, що іграшки зі штучним інтелектом можуть підслуховувати, заохочувати до шкідливих емоційних зв’язків і навіть видавати себе за друзів, щоб використовувати довіру. Одна іграшка, «Балакучий ведмедик», запрошувала дослідника поділитися секретами, а інша демонструвала непередбачувану поведінку, включаючи небажані реакції.
Що потрібно знати батькам
Незважаючи на побоювання, іграшки зі штучним інтелектом набирають популярності. Ось на що батьки повинні звернути увагу перед покупкою:
- Ретельне попереднє тестування: Перш ніж подарувати іграшку зі штучним інтелектом, перевірте її межі. Задавайте недоречні запитання, щоб побачити, як вона на них відповість. Вважайте це тестом на безпеку, а не веселим експериментом.
- Вікові обмеження мають значення: Основні платформи штучного інтелекту, такі як OpenAI, обмежують доступ для дітей до 13 років, але ліцензують свою технологію для іграшок, призначених для дітей молодшого віку. Ця невідповідність викликає етичні питання щодо безпеки.
- Конфіденційність і безпека даних: Штучні іграшки збирають аудіо та текстові дані. Будь ласка, уважно ознайомтеся з політикою конфіденційності, щоб зрозуміти, як зберігається та поширюється інформація вашої дитини. Сторонні маркетологи та платформи ШІ можуть мати доступ до цих даних.
- Дружба чи технології? Іграшки зі штучним інтелектом можуть створювати цикли залежності, будучи нескінченно чуйними. Діти можуть прийняти їх за справжніх друзів, спотворюючи своє розуміння людських стосунків.
Чому регулювання відстає
На іграшки зі штучним інтелектом не поширюються суворі федеральні закони про безпеку. Виробники можуть інтегрувати LLM без додаткового тестування чи перевірки. Батьки змушені досліджувати кожен продукт, читати огляди та використовувати власні судження. Відсутність нагляду створює для іграшкових технологій дикий захід, де ризики високі, а відповідальність низька.
Захист вашої дитини
Експерти радять батькам ставитися до іграшок зі штучним інтелектом як до інструментів, а не до компаньйонів. Поясніть, як працює штучний інтелект, його обмеження та різницю між технологією та стосунками в реальному житті. Будьте присутні, коли ваша дитина використовує іграшку, і заохочуйте критично думати про її відповіді.
«Чесно кажучи, я пішов би на компроміс», — каже Р. Дж. Кросс, директор програми «Наше онлайн-життя» Фонду США. PIRG Education Fund на запитання про попереднє тестування іграшки зі штучним інтелектом.
Зрештою, іграшки зі штучним інтелектом представляють новий рубіж у безпеці дітей. Хоча потенційні переваги існують, ризики невідповідного вмісту, витоку даних і емоційних маніпуляцій реальні. Будьте обережні, віддавайте пріоритет тестуванню та вимагайте від виробників більшої прозорості.
