Papa Franjo, žrtva umjetne inteligencije, upozorava na njezine 'perverzne' opasnosti

Papa Franjo, priznajući da je bio žrtva deepfake fotografije, u srijedu je upozorio na “perverzne” opasnosti umjetne inteligencije, obnovivši svoj apel za njezinom regulacijom na globalnoj razini kako bi se iskoristila za opće dobro.

Papa je govorio o svojim strahovima i nadama u vezi s umjetnom inteligencijom (AI) u poruci za Svjetski dan društvenih komunikacija Katoličke Crkve koji će se diljem svijeta obilježiti 12. svibnja.

Dok je pozvao ljude da privremeno “ostave po strani katastrofična predviđanja i njihove otupljujuće učinke” o novim stvarima, njegova poruka na tri stranice bila je uglavnom upozoravajuća.

Papa je upozorio na “kognitivno onečišćenje” koje može iskriviti stvarnost, promovirati lažne narative i zatvoriti ljude u ideološke eho komore.

“Moramo samo razmisliti o dugotrajnom problemu dezinformacija u obliku lažnih vijesti, koje danas mogu koristiti ‘deepfakeove’, odnosno stvaranje i širenje slika koje izgledaju savršeno uvjerljive, ali su lažne. I ja sam bio predmet toga”, napisao je Papa.

Očito je mislio na njegovu lažnu fotografiju koja je prošle godine postala viralna na društvenim mrežama.

Papa je na toj fotografiji u bijelom kaputu do gležnja.

Papa se također osvrnuo na lažne “audio poruke koje koriste nečiji glas kako bi rekli stvari koje ta osoba nikada nije izrekla”.

U ponedjeljak je glavni državni odvjetnik u američkoj saveznoj državi New Hampshire rekao da je njegov ured otvorio istragu o podrijetlu lažnih robotskih poziva koji su simulirali glas predsjednika Joea Bidena i poticali glasače da ne glasaju na predsjedničkim predizborima u utorak.

“Tehnologija simulacije koja stoji iza ovih programa može biti korisna u određenim specifičnim područjima, ali postaje perverzna kada iskrivljuje naš odnos s drugima i sa stvarnošću”, napisao je Papa.

Obnovio je poziv, koji je uputio prošlog mjeseca, za pravno obvezujućim međunarodnim ugovorom koji bi regulirao AI.

U poruci objavljenoj u srijedu Papa govori i o s umjetnom inteligencijom “povezanim patologijama” poput smanjenja pluralizma i proliferacije “grupnog razmišljanja”, prilikom čega se konsenzusna stajališta zauzimaju bez razmatranja vanjske kritike ili alternativa.

Papa je također govorio o opasnosti umjetne inteligencije u medijima, posebice u izvještavanju o ratu.

AI mora podržavati, a ne eliminirati ulogu novinarstva na terenu, rekao je.