Ar kada nors pažvelgėte į nuotrauką ir buvote tikri, kad ten buvote, o vėliau sužinojote, kad to nebuvo? Būtent tokį neraminantį įsitikinimą MIT tyrėjai nusprendė ištirti, ir rezultatai kelia nerimą.
Eksperimente, apie kurį pranešta žiniasklaidoje, 200 savanorių peržiūrėjo rinkinį iš 24 įprastų nuotraukų: vestuvės, užimta gatvė, sporto varžybos ir panašios kasdienės scenos. Po trumpos pertraukos kai kuriems dalyviams vėl parodytos originalios nuotraukos. Kitiems parodytos modifikuotos versijos, sukurtos generatyvinio dirbtinio intelekto. Veidai rodė kitokias išraiškas. Viešose aikštėse pasirodė kariškiai. Dangus buvo patamsintas arba pašviesintas.
Rezultatas buvo akivaizdus. Žmonės, kurie matė DI manipuliuotas nuotraukas, žymiai dažniau pranešė apie prisiminimus apie niekada nenutikusius įvykius. Dar labiau neramina tai, kad jie linko pasitikėti tais netikrais prisiminimais. Dalyviai, kurie matė DI pakeistus vaizdus, ne tik neteisingai prisiminė įvykius, bet ir tikėjo tais prisiminimais.
Kodėl tai svarbu? Atmintis nėra paprastas vaizdo įrašas, saugomas nepakitęs smegenyse. Ji yra konstrukcija, kurioje dėmesys, pastangos, atpažinimo užuominos ir asociacijų tinklas visi kartu formuoja tai, ką prisimename. Ryškus vaizdas gali suteikti trūkstamą detalę ir protas užpildo spragas. Generatyvinis DI, kuriantis įtikinamą vaizdinį ir tekstinį turinį, gali sutrikdyti lėtą ir skeptišką smegenų analizę, kuri paprastai saugo mus nuo klaidingų prisiminimų.
Yra dar viena problemos pusė. Šie modeliai gali sugalvoti detales, kurios atrodo tikėtinos, bet yra neteisingos, tai, ką kompiuterių mokslininkai vadina haliucinacijomis. Dauguma žmonių nėra geri atpažindami tokių klastojimų. Kai įtikinama nuotrauka pasirodo pažymėta nematoma algoritmo autoriteto aura, ji gali užgožti abejonę. O kai ekspertai remiasi tais pačiais signalais, profesionalūs vertinimai taip pat gali pakrypti.
Šie atradimai neapsiriboja tik internetinėmis klastotėmis. Jie liečia žurnalistiką, teisinius įrodymus, medicininius įrašus ir asmeninius santykius. Jei suklastota nuotrauka arba įtikinamas, bet netikras tekstas paveikia atmintį, sprendimai, paremti tokiais prisiminimais, turės nematomą klaidą. Ironija ta, kad ši klaida gali atrodyti autentiška.
Sprendimai egzistuoja, bet nė vienas nėra stebuklingas. Patikimos kilmės patikrinimo sistemos, platesnis patikros įrankių naudojimas ir viešasis švietimas apie atminties ir DI ribas yra dalis sprendimo. Vis dėlto technologijos juda sparčiai, o mūsų pažintiniai įpročiai prisitaiko lėtai.
Anksčiau nuotraukos buvo laikomos įrodymu. Šiandien jos gali būti bendrininkės perrašant praeitį. Kurią praeities versiją mes pasitikėsime?
Palikti komentarą
Komentarai
Komentarų dar nėra. Būkite pirmas.