Dirbtiniu intelektu kurti vaikiški klipai kelia pavojų

Straipsnis atskleidžia žemos kokybės dirbtinio intelekto vaizdo klipų bangą, nukreiptą į vaikus: nuo hipnotizuojančių, pasikartojančių vaizdelių iki vaisių ir daržovių kruvinių scenų. Aptariama rizika, įrankiai ir prevencijos priemonės tėvams, pedagogams ir platformoms.

.
Dirbtiniu intelektu kurti vaikiški klipai kelia pavojų

3 Minutės

Šypsanti braškė. Džiaugsminga melodija. Tada pjūklas. Vaikas vis žiūri. Trumpi, kartojami ir keistai užburiantys vaizdeliai yra naujieji jaunų dėmesio trukmės priešai.

Tyrėjai ir analitikai kelia pavojaus signalus dėl didėjančio prastos kokybės, dirbtinio intelekto sukurtų vaizdo įrašų antplūdžio, tiesiogiai nukreipto į vaikus. Pramonės žargonu vadinami 'DI šlamštu', tai pigūs, pasikartojantys klipai, kuriuos masiškai gamina tam, kad pritrauktų peržiūras ir reklamos pajamas. Jie pasirodo visur: begalinėse TikTok srauto juostose, automatinio paleidimo įrašuose YouTube ir kituose vaikams skirtuose interneto kampeliuose. Pavojus ne visada yra akivaizdi kraują vaizduojanti scena; tai nuolatinė dėmesio erozija ir smurto vaizdinių lėtas normalizavimas, paslėpti už saldžių spalvų ir juokingų personažų.

Global Network on Extremism and Technology (GNET) ir nepriklausomi tyrimai išskyrė du nerimą keliančius modelius. Pirma, šių klipų gausa gali užplūsti vaiko sklaidą per kelias valandas. Vienas kūrėjas, naudodamas kelis paprastus DI įrankius, gali sugeneruoti šimtus variantų, kurie atrodo pakankamai skirtingi, kad apgautų platformų algoritmus, bet pakankamai panašūs, kad išlaikytų tuos pačius traukos elementus. Antra, pasakojimo turinys – dažnai keistos, greitai eskaluotos meilės, išdavystės ar šeimos konfliktų istorijos, pasakojamos antropomorfinių vaisių lūpomis – mažiems žiūrovams suteikia neproporcingą emocinį krūvį.

Kaip animuotas obuolys moko žiaurumo? Per pasikartojimą ir kontekstą. Kai žaismingos vizualikos derinamos su eskaluojančiu agresyvumu – riksmais, grasinimais, suvaidintais sužalojimais – besivystančio žiūrovo smegenys įgauna naujus emocinius signalus. Dopamino šuoliai skatina tęsti slinkimą. Terminas 'smegenų ėdimas' pateko į viešąją diskusiją apibūdinti pažintinį aptingimą, kuris seka po begalinio, intensyviai stimuliuojančio turinio vartojimo. Tai ne vien metafora. Dėmesio reguliavimas, impulsyvumo kontrolė ir empatija formuojasi pagal tai, ką vaikai mato ir kaip dažnai jie tai mato.

Dar blogiau, plečiasi groteskinis subžanras: vaisių ir daržovių kruvini vaizdeliai. Ryškūs, animacinio stiliaus personažai vaizduojami su kirviais, pjūklais ir ginklais. Scenos perauga į kūno ardymą, kraujo purslus ir teatrališką kankinimą, visa tai pateikta apgaulingu, vaikui patraukliu estetiniu stiliumi. Kontrastas tarp mielo dizaino ir žiaurių veiksmų aptemdo emocinę reakciją. Laikui bėgant, pakartotas poveikis gali desensibilizuoti jaunus žiūrovus smurtui ir silpninti ribą tarp žaidimo ir žalos.

Kai kurie šių vaizdo įrašų skolinasi vizualines užuominas iš realaus pasaulio smurtinių aktorių. Analitikai teigia, kad kartelių egzekucijų vaizdų ir ekstremistinės propagandos estetika buvo imituota ir suminkštinta trumpomis animacijomis, kurios praslysta pro turinio filtrus. Platformos draudžia atvirą smurtinį turinį, tačiau šių animacijų nekalta išvaizda dažnai pakanka, kad jas apeitų automatizuota moderacija. Rezultatas yra klastingas plitimo kelias, kuriuo žalingi vaizdai ir tropos gali pasiekti milijonus vaikų be aiškaus jų globėjų ketinimo.

Pigi ir prieinama įrankiai yra dalis problemos. Tokios paslaugos kaip PixVerse, VeoE.ai, Media.io ir Sora suteikia animaciją, balso sintezę ir greitą montažą bet kam, turinčiam paprastą scenarijų. Tai, kas anksčiau reikalavo studijų ir biudžetų, dabar gali būti masiškai išplėsta. Ekonominis paskatinimas aiškus: žema gamybos kaina, didelis įsitraukimas, nuspėjamos reklamos pajamos. Kūrėjams ir piktadariams ši matematika yra neatsispiriama.

Ką turėtų daryti tėvai, pedagogai ir platformos? Vieno vienintelio sprendimo nėra. Tobulesni moderavimo modeliai padeda, bet jie turi būti derinami su dizaino pakeitimais, kurie mažintų automatinį paleidimą ir algoritminį mikro turinio, skirto vaikams, amplifikavimą. Šeimų medijų raštingumas yra lemiamas: žinokite, kokias programas naudoja jūsų vaikas, pažiūrėkite keletą vaizdo įrašų kartu ir nustatykite ribas begaliniam slinkimui. Politikos formuotojai taip pat gali siekti aiškesnio žymėjimo ir amžiaus saugiklių įgyvendinimo.

Dėl ko rizikuojama yra ne tik akimirkos dėmesys: tai, kaip jaunos smegenys mokosi emocijų, pasakojimo ir moralės iš pikselių, kuriuos jie vartoja. Kas imsis saugoti rytdienos vaizduotės žaidimų aikšteles?

Ieva Grigaitė
„Mane domina visa, kas susiję su mokslu, sveikata, kosmosu ir naujienomis. Mano tekstai – įvairūs, bet visada pagrįsti faktais.“

Palikti komentarą

Komentarai

Komentarų dar nėra. Būkite pirmas.