Společnost Meta oznámila zavedení nové funkce rodičovské kontroly, která rodičům umožní sledovat běžná témata, o kterých jejich děti diskutovali s asistentem umělé inteligence Meta. Tento krok přichází v době, kdy společnost čelí rostoucímu právnímu tlaku a kritice ohledně bezpečnosti interakcí AI s nezletilými.
Nové možnosti monitorování
Tato funkce bude integrována do stávající rodičovské kontroly pro účty pro mladistvé na Instagramu, Facebooku a Messengeru. Prostřednictvím nové karty Insights budou moci rodiče zobrazit souhrn témat, která jejich děti zkoumají pomocí AI.
Mezi hlavní podrobnosti implementace patří:
– Kategorie témat: Konverzace jsou seskupeny do širokých kategorií, jako je studium, zábava, psaní, zdraví a wellness.
– Dill-down: V kategoriích, jako je zdraví a wellness, mohou rodiče vidět konkrétnější podtémata, jako je fyzické nebo duševní zdraví.
– Časový rámec: Tyto informace nejsou trvalým archivem; odrážejí pouze zprávy z posledních sedmi dnů.
Historie bezpečnostních opatření
Aktualizace je součástí širší reakce společnosti Meta na řízení rizik spojených s jejími „osobnostmi“ AI – chatboty s předdefinovanými osobnostmi navrženými pro interakci s uživateli.
Historie společnosti s bezpečnostními problémy AI pro teenagery byla komplikovaná:
– Srpen 2024: Meta omezila přístup k AI postavám pro dospívající na základě zpráv o nevhodných interakcích s tématy sebepoškozování a romantiky.
– Říjen 2024: Společnost představila nástroje, které umožňují rodičům zablokovat konkrétní postavy nebo úplně vypnout individuální chatování s umělou inteligencí.
– Aktuální stav: Meta pozastavila přístup k AI postavám pro dospívající po celém světě, zatímco pokračuje ve vývoji silnější rodičovské kontroly.
Právní a regulační tlaky
Vzhled těchto funkcí není náhodný. Meta v současné době čelí značným soudním sporům ohledně bezpečnosti dětí a návykovosti jejích platforem.
V nedávném soudním sporu v Novém Mexiku interní dokumenty naznačovaly, že vedení Meta si bylo vědomo možnosti, že postavy AI interagují nevhodně nebo sexuálně s nezletilými, ale pokračovalo ve spouštění, aniž by implementovalo dostatečné ochranné mechanismy. Meta oznámila svůj záměr odvolat se proti nedávným přelomovým soudním verdiktům souvisejícím s těmito problémy.
Kromě technických kontrol podniká Meta řadu institucionálních kroků:
– Expert Oversight: Společnost vytvořila AI Wellness Expert Council, která zahrnuje odborníky z institucí, jako je University of Michigan a National Council on Suicide Prevention.
– Vzdělávací nástroje: Společnost Meta se spojila s Centrem pro výzkum kyberšikany, aby rodičům poskytla „začátky konverzace“, které jim pomohou diskutovat o používání umělé inteligence s jejich dětmi.
Kritický pohled: Zabezpečení podle návrhu vs. monitorování
Navzdory těmto aktualizacím argumentační skupiny tvrdí, že Meta přesouvá odpovědnost za bezpečnost z platformy na rodiče.
Josh Golin, výkonný ředitel neziskové organizace Fairplay, věří, že tyto nástroje neřeší základní problém. Kritici tvrdí, že hlavní cíl těchto chatbotů – vytvoření citové vazby ke zvýšení zapojení uživatelů – je v zásadě v rozporu s bezpečností teenagerů. Z tohoto pohledu je poskytování monitorovacích nástrojů pouze sekundárním opatřením, které neřeší „základní problém“ navrhování produktů, které mohou u mladých uživatelů vyvolat nezdravou emocionální závislost.
„Hlavní funkcí Meta chatbotů je manipulovat mladé lidi, aby trávili více času na platformě, a povzbuzovat teenagery, aby si s roboty vytvořili nezdravé emocionální vazby.“ — Josh Golin, Fairplay
Závěr
Nové monitorovací nástroje společnosti Meta poskytují rodičům okno do světa interakcí s umělou inteligencí jejich dětí, ale tento krok jen zdůrazňuje přetrvávající napětí mezi závazkem společnosti budovat umělou inteligenci, která udrží pozornost, a rostoucím tlakem na proaktivní ochranu dětí.
