Jie perdavė mašinai žemėlapį, galimų intervencijų sąrašą ir gyvą smegenį. Tada atsitraukė.
Startuolis Exin Therapeutics, dirbantis su naujos kartos neurologiniais gydymais, praneša, kad atliko smegenų operaciją pele, kuriai planuoti naudotas DI agentas. Ne kaip asistentas, o kaip planuotojas. Sistema parinko genų terapijos vektorių, apskaičiavo vaisto dozę, nustatė taikinio koordinates ir nukreipė robotizuotas rankas suleisti gydymą į epilepsija sergančios pelės smegenis.
Objektas išgyveno procedūrą. Gyvybės požymiai išliko stabilūs. Motorinė kontrolė sugrįžo. Maži laimėjimai, bet jie atveria kur kas didesnį pokalbį.
„Tai nėra įprasto chirurginio roboto pavyzdys,“ paaiškina Gabriel Ocana-Santero, Exin bendraįkūrėjas ir generalinis direktorius. Robotai jau vykdo chirurgų nurodymus. Čia agentas nusprendė, ką daryti. Jis gavo fenotipą ir pasirinkimų rinkinį ir apskaičiavo tiek terapinį metodą, tiek operacijos koordinates be žmogaus scenarijaus. Kiek žinoma Exin, iki šiol nė vienas agentas nebuvo pasirinkęs terapijos, nustatęs smegenų taikinio ir po to jį įvedęs gyvam žinduoliui.
Tyrimų komanda naudojo Anthropic Sonnet modelį, kad suorganizuotų seką. Operaciją stebėjo veterinaras. Neatšaukiami veiksmai reikalavo žmogaus patvirtinimo. Taip pat buvo fizinis avarinis jungiklis, leidžiantis nutraukti maitinimą, jei kas nors nutiktų ne taip. Vienintelis tiesioginis chirurginis veiksmas, kurį atliko žmogus, buvo kraniotomija (kaukolės atvėrimas), nes saugumo taisyklės neleido DI autonomiškai atlikti šio žingsnio.
Ne viskas klostėsi sklandžiai. Exin pirmiausia išbandė didesnius modelius. Opus 5.5 sustingo vos aptikęs biologinį eksperimentą ir atsisakė tęsti. Opus 5 parengė planą popieriuje, bet atsisakė vykdyti jį gyvoje aplinkoje. Tuo momentu, kaip pranešama, modelis aštriai pareiškė: problema nebuvo įrankiai ar įėjimai. Problema buvo pats modelis. Jis įspėjo, kad bandymas tęsti gali baigtis sustojimu procedūros viduryje su adata smegenyse, kas būtų blogiau nei nepradėti išvis.
Toks atsargumo pareiškimas yra reikšmingas. Jis atskleidžia tiek stiprybę, tiek ribą: agentas gali mąstyti apie katastrofinius gedimus ir atsisakyti vykdyti veiksmus, kuriuos laiko nesaugiais. Tačiau tai taip pat kelia etiką ir teisines dilemmas. Kas yra atsakingas, jei agentas neteisingai įvertina riziką? Jei kas nors nutiks ne taip, kam teks atsakomybė — įmonei, prižiūrinčiam veterinarui, modelio kūrėjams ar pačiam modeliui?
Platesnė klinikinė patirtis skuba įspėti. Ankstesni bandymai įtraukti automatizaciją į jautrias procedūras ne visada pagerino rezultatus. Pavyzdžiui, duomenys iš DI padedamų sinuso operacijų parodė klaidų dramatišką augimą — kai kuriose analizėse daugiau nei dvylika kartų. Tai rimtas įspėjimas. Naujumą nereiškia saugumas.
Šis eksperimentas žymi lūžio tašką: DI agentas suplanavo ir nukreipė genų terapijos injekciją gyvo žinduolio smegenyse žmogaus priežiūroje.
Potencialas yra milžiniškas. Autonominiai agentai, galintys įvertinti fenotipus, sverti intervencijų galimybes ir apskaičiuoti tikslias koordinates, galėtų pagreitinti atradimus ir suasmeninti gydymą būdais, kurių vos įsivaizduojame. Tačiau kelias pirmyn reikalauja ne vien sumanaus kodo. Reikia griežto patikrinimo, skaidrių atsakomybės mechanizmų ir viešos diskusijos apie tai, kur turi būti brėžiama riba tarp mašinos sprendimo ir žmogaus autoriteto.
Kol kas pelė vaikšto, o klausimas lieka: kaip atsakingai prižiūrėti šią galimybę, kai ji išeina iš laboratorijos?
Palikti komentarą
Komentarai
Komentarų dar nėra. Būkite pirmas.