Ostatnie doniesienia sugerują, że wyszukiwarka internetowa DuckDuckGo błędnie informowała o rzekomej śmierci byłego prezydenta USA, Donalda Trumpa. Nieprawdziwa informacja, jakoby Trump został ugryziony przez wiceprezydenta J.D. Vance’a i zmarł na wściekliznę, pojawiła się w podsumowaniu generowanym przez sztuczną inteligencję. Przyczyną tego incydentu mogła być platforma Reddit, z której AI czerpała dezinformujące treści.
Na forum Reddit r/poisonai użytkownicy celowo rozpowszechniali fałszywe informacje w celu trollowania AI. Dr Mateusz Łabuz, ekspert z Uniwersytetu w Hamburgu, wyjaśnia, że Reddit jest jedną z najczęściej cytowanych domen przez główne modele AI. Platforma analityczna Peec AI wyróżniła Reddit jako najważniejsze źródło danych, które pozwala sztucznej inteligencji uczyć się na autentycznych i zróżnicowanych wypowiedziach użytkowników.
Pierwszym powodem popularności Reddita jest obecność naturalnych wypowiedzi, które umożliwiają modelom AI naśladowanie języka w sposób bardziej naturalny niż w przypadku języka książkowego czy encyklopedycznego. Drugim powodem jest różnorodność komentarzy pochodzących od 116 milionów aktywnych użytkowników dziennie. Trzecią przyczyną jest system głosowania, który pozwala AI na ocenę wartości i wiarygodności treści dzięki mechanizmowi upvote i downvote.
W lutym 2024 r. Reddit zawarł umowy z gigantami technologicznymi, jak Google i OpenAI, które pozwalają na trening modeli AI na podstawie wpisów użytkowników forum. Jednak w badaniu Uniwersytetu Cornell stwierdzono, że firmy mogą łatwo umieszczać treści manipulacyjne na platformach takich jak Reddit w celu wpływania na wyniki AI.
Dr Łabuz wskazuje na ryzyko dezinformacji, szczególnie poprzez zjawisko „LLM grooming”, gdzie powtarzające się treści dezinformujące mogą wpływać na wyniki AI. W latach 2024-2025 popularne modele językowe powielały narracje rosyjskiej sieci dezinformacyjnej „Prawda” nawet w 33% przypadków.
Reddit, zdaniem eksperta, może być narzędziem w rękach krajów takich jak Rosja i Chiny, które obserwują podobne platformy, by włączyć je do swojego arsenału dezinformacyjnego. Dr Łabuz podkreśla, jak ważna jest świadomość i weryfikacja informacji przekazywanych przez AI. Społeczeństwo ma tendencję do uznawania informacji wskazanych przez modele AI za prawdziwe i niepodważalne.
Dodaj komentarz