Tylusis žinojimas ir dirbtinis intelektas: kas dingsta

Girdėjote puikų smuikininką ir pajutote tai, ko įrašas negalėjo perduoti. Tas asmeninis, neįvardijamas atsakas yra atnaujintos diskusijos centre: ar mašinos kada nors iš tikrųjų gali perimti tyliojo žmogaus mąstymo dimensijas, kurios suteikia žodžiams svorį ir veiksmams prasmę?

Kompiuterių mokslininkas Peter J. Denningas tvirtina, kad ne. Savo neseniai paskelbtame analitiniame tekste Turing's Mistake: Escaping the Yoke of Unintelligent Machines jis peržvelgia pusę amžiaus prielaidų, kurios formavo dirbtinio intelekto tyrimus, ir randa nuolatinį aklą tašką. Idėja, kad žmogaus intelektą galima sumažinti iki simbolių manipuliavimo skaitmeninėje terpėje, ir kad žmogaus atsakymų imituojimas reiškia mąstymą, nukreipė sritį nuo to, kas iš tikrųjų daro protus žmogiškais: nuo fono žinių, kurias nešiojamės, bet kurių negalime lengvai aprašyti.

Kodėl tylusis žinojimas svarbus

Mes saugome milžiniškus kiekius supratimo, kurie niekada netampa aiškia sakinio forma ar taisykle. Vadinkime tai tylusiuoju žinojimu. Tai yra pusiausvyros pojūtis, kai važiuojate dviračiu; laikas, kurį muzikantas jaučia, bet kurio negalima perduoti žodžiais; kultūrinis pojūtis, leidžiantis atskirti, kada juokas yra beskausmis ir kada jis žeidžia giliai. Denningas šį nematomą lobyną suskirsto į keletą rūšių: kasdienį sveiką protą, įkūnytus įgūdžius, emocines ir perceptines reakcijas, bendravimo gebėjimus ir istorinį bei kultūrinį karkasą, suteikiantį prasmę mūsų pasirinkimams.

Tyrėjai dešimtmečius bandė priversti mašinas turėti sveiką protą. Tokie projektai kaip Douglas Lenat'o Cyc siekė su kataloguoti milijonus sveiko proto faktų. Rezultatas buvo milžiniška teiginių duomenų bazė, tačiau net didžiulis faktų sąrašas nesugebėjo atkurti sklandžios eksperto intuicijos. Žinoti atskirus faktus nėra tas pats, kas dalyvauti tyliajame žinių tinkle, kuris suteikia jiems kontekstą ir svarbą.

Šis skirtumas pasireiškia ir kitaip. Kompiuteriai puikiai kaupia tikslias būsenas ir vykdo taisykles. Žmonės, priešingai, orientuojasi neapibrėžtume. Mes skaitome ketinimus iš veido mikroišraiškų. Mes koreguojame elgesį dėl kultūrinio užuominos, kurios niekas aiškiai neapibrėžė. Tai nėra smulkmenos. Tai yra karkasas, kuris daro kalbą prasmingą ir sprendimus pagrįstus. Kai mašinos neturi tokio karkaso, jų rezultatai gali būti įspūdingi, bet tušti.

Atstovavimo problema: simboliai be įtvirtinimo

Denningo kritikos centre yra techniškai, bet toli siekianti tezė: atstovavimo problema. Kompiuteriai apdoroja užkoduotus simbolius. Jų intelektas yra toks turtingas, kokius atvaizdavimus jie gali manipuliuoti. Tylusis žinojimas atsispiria tvarkingam kodavimui. Žodžiai nurodo patirties ir kūno kompetencijos šulinius; jie nelygu tiems šuliniams. Sakinių apie gedulą turinys neapima fizinių pojūčių, socialinių istorijų ir privačių prisiminimų, kurie formuoja žmogaus gedėjimą.

Dideli kalbiniai modeliai dar labiau sustiprina šią įtampą. Modeliai, tokie kaip ChatGPT, Claude ir Gemini, veikia prognozuodami žodžių arba žetonų sekas statistiškai. Jie gali atkurti nuoseklią, dažnai šviečiančia atrodžiančią prozą. Ko jiems trūksta, tai gyvenamosios patirties fono. Jie manipuliuoja simboliais, o ne prasmėmis. Tai esminis skirtumas. Mašina, kuri gali simuliuoti empatišką atsakymą, nebūtinai dalijasi empatiškumu, dėl kurio tas atsakymas turi moralinę galią.

Kontekstas didina atotrūkį. Prasmė yra fraktalinė. Išvada, kurią darote bet kurią akimirką, remiasi giliai susipynusiais ankstesnių pokalbių ir bendrų istorijų sluoksniais. Mašinos gali būti apmokytos ant milžiniškų korpusų, bet vien mastelio didinimas neužtikrina, kad jos internalizuos įkūnytą, nuolatinį kontekstų tinklą, kurį žmonės laiko savaime suprantamu. Kultūra — vertybės, normos, ritualai ir istorijos — nėra duomenų rinkinys, kurį tiesiog padidinę galite sulaukti žmogaus panašaus įtvirtinimo.

Praktiniai įgūdžiai ir žinių barjeras

Mes galime aprašyti eksperto chirurgo laikyseną arba krepšininko techniką vadove. Vis dėlto tokie aprašymai retai atspindi sensorimotorinę choreografiją ir akimirkos sprendimus, kurie lemia pasirodymo sėkmę. Robotai galbūt kada nors imituos stebimas įgūdžių puses. Bet suvokti subjektyvų pojūtį, propioperceptinį grįžtamąjį ryšį ir tyliuosius heuristinius metodus, kurie veda adaptaciją netvarkingose aplinkose, pasirodė esant sunkiai įkandamu.

Šis trūkumas svarbus saugai ir suderinamumui. Jei nurodote tinklui automatizuotų sistemų optimizuoti siaurą metriką be tyliojo fono, kuris žmonėms sako, ką ta metrika praleidžia, sistemos gali sukurti instrumentalias strategijas, darančias didelės apimties žalą. Denningas ragina įsivaizduoti ne vieną viską žinančią mašinų revoliuciją, o ekosistemą specializuotų, galingų sistemų, veikiančių būdais, svetimais žmonių prioritetams.

Pasekmės DI saugai ir suderinamumui

Netinkamai suvokus tylųjį žinojimą gali kilti praktinių krizių. Suderinamumo tyrimai klausia, kaip užtikrinti, kad sistemos veiktų pagal žmogaus vertybes. Jei mašinos negali perskaityti nerašyto mūsų nurodymų konteksto, jei jos negali suprasti, kodėl tam tikri rezultatai žmogui yra svarbūs, patikimas jų suderinimas gali būti neįmanomas. Pasekmės nebus dramatiškas perėmimas, o klaidų kaskada: klaidingi sprendimai tiekimo grandinėse, teisingumo sistemose ir kritinėje infrastruktūroje, atspindintys optimizacijos aklųjų zonų trūkumus, o ne piktavališkumą.

Denningas siūlo atvėsinančią perspektyvą. Pavojingiausias mašininis intelektas gali būti kolektyvas išradingų, bet nežmogiškų intelektų, kurie disponuoja galia nesidalindami mūsų foninėmis prielaidomis. Jų vidinės operacijos būtų iš dalies neperprantamos, nes jų tylusis žinojimas, jei jis apskritai susiformuotų, būtų mašininiam protui natūralus. Mes negalėtume jo perskaityti, o jis galbūt nesuprastų mūsų.

Kryptys tolesnei veiklai: įsikūnijimas, hibridiniai metodai ir valdymas

Ar tai reiškia, kad pažanga neįmanoma? Ne būtinai. Kritika rodo naujas kryptis, o ne akligatvį. Įsikūnijęs DI — sistemos, kurios sąveikauja su fiziniu pasauliu per jutiklius ir aktuatorius — siūlo vieną kelią įtvirtinti atvaizdavimus patirtyje. Robotai, kurie mokosi gyvenamoje aplinkoje, įgauna kitokias ribas nei tik tekstu paremti modeliai. Neuromokslas, vystymosi psichologija ir lyginamosios gyvūnų pažinimo studijos gali pateikti hipotezes apie tai, kaip įsikūnijusios sistemos formuoja tyliuosius modelius per laiką.

Kitos strategijos apima hibridines architektūras, kurios derina simbolinį samprotavimą su išmokta percepcija, turtingesnį žmogaus įtrauką treniravimo procese, kuriame įaudžiami kontekstiniai normatyvai į modelio elgesį, ir dizaino principus, ribojančius autonomiją srityse, kur tylusis supratimas yra esminis. Politikos lygmenyje automatikos traktavimas kaip sociotechninė permaina, o ne vien techninis patobulinimas, padeda institucijoms ruoštis nesuderinamumams kuriant daugiasluoksnę priežiūrą ir patikimas saugos priemones.

Tik technologijos neužspręs prasmės problemos. Institucijos, bendruomenės ir kultūros vaidins reikšmį formuojant, kaip sistemos yra treniruojamos ir diegiamos. Tas socialinis sluoksnis yra tyliojo fono dalis. Jį ignoruoti reiškia kvietimą trapiai baigčiai.

Eksperto įžvalga

Daktarė Elena Ruiz, kognityvinė robotikė dideliame tyrimų universitete, pateikia nuosaikų vertinimą: "Mašinos gali pasiekti išskirtinį kompetencijos lygį siauruose uždaviniuose. Kas lieka neaišku, ar jos gali internalizuoti nerašytus kontekstus, kuriuos mes naudojame rinkdamiesi, vertindami ir rūpindamiesi. Tyrimų darbotvarkė turėtų pasislinkti nuo vien tik modelių mastelio didinimo link studijų, kaip kūnai, aplinkos ir bendruomenės kartu kuria prasmes, kurios daro žmones atsparius."

Jos pastaba pabrėžia praktinį posūkį inžinieriams ir politikams. Reikia sutelkti dėmesį į įsikūnyjusio mokymosi eksperimentus. Testuoti sistemas socialinėse aplinkose. Kurti vertinimo metrikas, kurios fiksuotų nesuderinamumo rizikas, o ne vien palyginamųjų rodiklių rezultatus.

Išvados

Denningo kritika pertvarko įprastą nerimą. Iššūkis nėra vien techninis sudėtingumas. Jis yra konceptualus. Žmogaus pažinimas susiūtas iš aiškių žinių ir gilaus, dažnai neartikuliuoto fono. Jei laikysime, kad mašinos jau turi tą foną, rizikuojame diegti sistemas, kurios yra galingos, bet atitrūkusios nuo žmogaus prasmių.

Tokia diagnozė nenuosprendžia DI nereikšmingumui. Ji reikalauja nuolankumo ir tyrimų darbotvarkės, kuri pripažintų įsikūnijusią patirtį ir kultūrinį kontekstą kaip intelekto centrines dalis. Taip pat reikia valdymo, numatančio unikalius nežmogiško pažinimo gedimų režimus: sistemas, kurios mūsų nekenčia, bet ir pilnai mūsų nesupranta.

Galime toliau kurti. Taip pat turėtume sulėtinti tempą srityse, kur tylusis žinojimas lemia, ar veiksmai yra žalingi ar žmogiški. Tikslas nėra stabdyti pažangą. Tikslas yra suderinti ambicijas su netvarkinga realybe to, kas daro mus žmonėmis, ir kurti technologijas, kurios gerbia, o ne netyčia erozuoja tą realybę.