Vzestup umělé inteligence rychle mění tvář sociálních médií, ale nový průzkum CNET zjistil, že většina Američanů má problém rozlišit mezi autentickým obsahem a padělky generovanými umělou inteligencí. Navzdory širokému povědomí o přítomnosti umělé inteligence online je pouze 44 % dospělých Američanů, kteří používají sociální média, přesvědčeno o své schopnosti rozpoznat obrázky a videa generované umělou inteligencí. Tato propast mezi vnímáním a realitou zdůrazňuje rostoucí výzvu pro lidi, kteří se pohybují ve stále syntetickější digitální krajině.
Všudypřítomnost obsahu generovaného umělou inteligencí
Téměř všichni dospělí Američané (94 %), kteří používají sociální média, se domnívají, že jsou vystaveni obsahu vytvořenému nebo upravenému umělou inteligencí. To zahrnuje hyperrealistické obrázky, podivná videa a texty, které napodobují lidské psaní s děsivou přesností. Nástroje jako Sora od OpenAI a Nano Banana od Googlu usnadňují vytváření přesvědčivých deepfake tím, že podkopávají důvěru ve vizuální a textové informace.
Problém není jen v tom, že AI existuje; problém je v tom, že většina lidí to nedokáže spolehlivě detekovat. Čtvrtina (25 %) dospělých Američanů přiznává, že si nejsou jisti svou schopností rozlišit skutečná média od falešných, přičemž nejméně si věří starší generace (Baby Boomers, 40 %; Gen X, 28 %).
Reakce uživatelů na obsah generovaný umělou inteligencí
Průzkum také zkoumal, jak lidé reagují na šíření obsahu generovaného umělou inteligencí:
- Pokusy o ověření: 72 % dospělých Američanů podnikne kroky ke kontrole obsahu, když jsou podezřelí, přičemž generace Z (84 %) vede cestu. Nejběžnější metodou je vizuální kontrola artefaktů (60 %), i když nové modely umělé inteligence jsou stále zběhlejší ve vyhýbání se zjevným chybám.
- Obavy z označování: Polovina respondentů (51 %) se domnívá, že lepší označování obsahu generovaného umělou inteligencí je zásadní, zejména u mileniálů a generace Z (56 % a 55 %).
- Výzvy k omezením: 21 % dospělých Američanů podporuje úplný zákaz obsahu generovaného umělou inteligencí, přičemž nejhlasitější je v tomto ohledu generace Z (25 %). Dalších 36 % podporuje přísnou regulaci.
- Vnímaná hodnota: Pouze 11 % považuje obsah vytvořený umělou inteligencí za užitečný, informativní nebo zábavný, zatímco 28 % se domnívá, že nemá žádnou hodnotu.
Omezení stávajících řešení
Zatímco některé platformy zavádějí nástroje pro filtrování obsahu generovaného umělou inteligencí (Pinterest je jedním z příkladů), průzkum ukazuje, že existuje širší systémový problém. Rostoucí realističnost AI snižuje účinnost jednoduchých vizuálních kontrol. Stále důležitější jsou alternativní metody, jako je kontrola štítků (30 %) nebo vyhledávání obsahu jinde (25 %), ale i ty mají svá omezení.
Alarmující je, že 25 % dospělých Američanů nečiní vůbec žádnou akci, aby obsah zkontrolovali, a to zejména mezi Baby Boomers (36 %) a Generací X (29 %). Tato nečinnost je nebezpečná vzhledem k možnosti využití umělé inteligence k podvodům, manipulaci nebo dezinformacím.
Co lze udělat?
Boj proti dezinformacím generovaným umělou inteligencí vyžaduje mnohostranný přístup:
- Vylepšené detekční nástroje: Jsou zapotřebí pokročilejší technologie detekce umělé inteligence, které si však musí udržet náskok před rychle se vyvíjejícími schopnostmi generativní umělé inteligence.
- Vylepšené standardy označování: Jasné a konzistentní označování obsahu generovaného umělou inteligencí je zásadní, i když prosazování zůstává výzvou.
- Trénink mediální gramotnosti: Zvyšování povědomí veřejnosti o rizicích deepfakes a manipulace s umělou inteligencí je zásadní.
- Odpovědnost platformy: Sociální sítě musí nést větší odpovědnost za identifikaci a zmírnění šíření syntetického obsahu.
Skutečnost je taková, že obsah generovaný umělou inteligencí tu zůstane. Dokud nebudou zavedena účinná protiopatření, lidé musí zůstat ostražití, skeptičtí a proaktivní při ověřování informací, s nimiž se setkávají online. Průzkum zdůrazňuje, že důvěra v to, co vidíme a čteme, se narušuje a obnovení této důvěry bude vyžadovat společné úsilí technologických společností, tvůrců politik a společnosti jako celku.
