8 Minutės
Tsinghua universiteto mokslininkų komanda pristatė integruotą optinį skaičiavimo lustą, galintį išgauti požymius žymiai didesniu nei 10 GHz greičiu — reikšmingas etapas, turintis pasekmių aukšto dažnio prekybai, medicininei vaizdininei diagnostikai ir realaus laiko dirbtiniam intelektui. Perkeldami esminį skaičiavimo sluoksnį iš elektros į šviesą, tyrėjai praneša apie ženkliai sumažintą delsą ir kelią į lengvesnes, greitesnes hibridines AI sistemas.
Why light? The bottleneck in modern AI computing
Šiuolaikinės dirbtinio intelekto ir duomenų valdymo sistemos — nuo chirurginių robotų iki automatizuotų prekybos variklių — turi realiu laiku apdoroti didžiulius nuolatinius duomenų srautus ir akimirksniu išskirti reikšmingus požymius. Tradiciniai elektroniniai procesoriai artėja prie savo fizinių ir terminio valdymo ribų. Kvarco greičio didinimas arba tranzistorių tankio auginimas ant lustų nebeatsveria vis didėjančių energijos ir delsos kaštų: elektroninės jungtys ir atminties prieiga įveda latenciją bei energijos sąnaudas, kurios tampa nepriimtinos ultra-mažo delsos scenarijams.
Optinis skaičiavimas keičia elektronus į fotonus, kad tam tikras matematikas būtų atliekamas šviesos greičiu. Fotonika suteikia beveik akimirksninį duomenų perdavimą, natūralią paralelizaciją (daugybė bangos ilgių ir erdvinių kanalų vienu metu) ir potencialiai žymiai mažesnes energijos sąnaudas vienai operacijai. Vienas perspektyvus metodas naudoja difrakcija pagrįstus optinius operatorius: ploni optiniai sluoksniai, kurie transformuoja įeinančius šviesos laukus į pageidaujamus išėjimo modelius ir vienu praejimu atlieka tiesinės algebros veiksmus, pavyzdžiui, matricos–vektoriaus daugybą.
OFE2 gali suteikti lankstų paskirstymą, kad patenkintų daugybės užduočių poreikius scenų atpažinime, medicininėje pagalboje ir skaitmeninėse finansų sistemose.
How OFE2 overcomes coherence and stability challenges
Naujas įrenginys, pavadintas OFE2 (optical feature extraction engine 2), sprendžia pagrindinį sudėtingumo aspektą koherentinio optinio skaičiavimo srityje: kaip palaikyti stabilias fazines sąsajas tarp paralelinių optinių kanalų labai aukštais dažniais. Daugelis fotonikos sistemų naudoja pluošto (fiber) pagrindu veikiančius skaidytuvus ir delsos linijas, kad sukurtų kelis duomenų kanalus, tačiau pluoštai įveda fazinį triukšmą ir yra jautrūs temperatūros pokyčiams, kas riboja jų veikimo dažnį ir stabilumą.
Šiai problemai išspręsti Tsinghua mokslininkai sukūrė integruotą mikroschemą duomenų paruošimui, kurioje yra reguliuojami galios skirstytuvai ir preciziškai valdomos delsos linijos. Šis modulis mėginiuoja įeinantį serijinį duomenų srautą ir deserializuoja jį į kelis stabiliai sinchronizuotus paralelinius optinius filialus. Reguliuojama integruota fazių matrica tada leidžia įrenginiui rekonfigūruoti šių šakų interferenciją difrakciniame operatoriuje, nukreipiant optinę energiją į pasirinktus išėjimus ir taip įgyvendinant savitą požymių detektorių rinkinį.
Toks požiūris sumažina priklausomybę nuo ilgo optinio pluošto ir išoriniams modulavimo grandinėms, pagerina fazės stabilumą ilgalaikėse ir temperatūriškai kintančiose aplinkose ir leidžia palaikyti aukštą dažnį bei deterministinį veikimą. Integruota duomenų paruošimo grandinė taip pat supaprastina sistemos valdymą, nes dauguma parametrų gali būti kalibruojami programiškai per valdymo elektronikos sąsają.
Diffraction as computation: matrix operations in a beam
Tinkamai sukonfigūruotas, difrakcinis operatorius elgiasi kaip užprogramuota matrica. Įeinančios bangos — kiekviena nešanti duomenų fragmentą — interferuoja praeidamos per difrakcinį elementą, o susidariusioje šviesos struktūroje formuojasi fokusinis ryškus taškas, kurio padėtis ir intensyvumas koduoja matricos–vektoriaus daugybos rezultatą. Sekdami, kaip išėjimo galia keičiasi laike arba reaguodama į įvesties variacijas, OFE2 gali išgauti požymius, tokius kaip vaizdo kraštai, tekstūros ypatumai arba laiko modeliai finansų rinkų duomenyse.
Ši paradigma leidžia atlikti masyvius tiesinės algebros skaičiavimus per vieną optinį praejimą be papildomų atminties perkėlimo operacijų, kurios tradiciškai didina delsą ir energijos sąnaudas elektroninėse sistemose. Difrakcinis sluoksnis veikia kaip fiksuota ar rekonfigūruojama svorių matrica, kurią galima optimizuoti mokymo metu ir tada įkelti į fizinį difrakcinį profilį arba valdomą fazių elementą ant lusto.
Performance: 12.5 GHz and sub-250 ps latency
OFE2 veikia efektyviu 12,5 GHz greičiu. Komanda praneša, kad viena matricos–vektoriaus daugyba užbaigiama mažiau nei per 250,5 pikosekundės, todėl ši implementacija yra viena greičiausių integruotų optinių skaičiavimo demonstracijų iki šiol. Tokia sub-nanosekundinė latencija yra kritiška, kai kiekviena mikrosekundė turi įtakos — pavyzdžiui, algoritminėje prekyboje, kur nedidelis vėlavimas gali pakeisti pelningumo rezultatą.
Optinis priešapdorojimo etapas žymiai sumažino apkrovą elektroninėms neuroninėms tinklų grandinėms. Vaizdų užduotyse OFE2 sugeneravo papildomas „nuo jų reljefo ir įgilinimo“ (relief and engraving) tipo požymių žemėlapius, kurie pagerino klasifikacijos tikslumą ir padidino pikselio lygmens rezultatyvumą semantinėje segmentacijoje (pvz., organų atpažinimui KT nuotraukose). Tai pasiekta naudodami mažiau elektroninių parametrų nei bazinė visiškai elektroninė grandinė, o tai rodo ryškų pranašumą hibridinėse architektūrose, kur fotonika vykdo priekines, latenciją jautrias operacijas.
Be to, praktiniai matavimai parodė, kad optinis sluoksnis turi aukštą pakartojamumą ir toleranciją prie nustatytų nustatymų, kai sistema yra tinkamai termiškai valdyta ir kalibruota. Efektyvus 12,5 GHz darbo režimas yra pasiektas derinant integruotos fazių matricos greitą valdymą su stabiliu optiniu išsiskirstymu šakoje.
Real-world tests: images and market signals
Tyrėjai patikrino OFE2 tiek vizualiose, tiek finansinėse užduotyse. Vaizdų eksperimentuose difrakcinis variklis patikimai išryškino kraštus ir tekstūros ypatybes, kurios vėlesnėse neuroninių tinklų klasifikacijos ir segmentacijos grandinėse leido pasiekti geresnius rezultatus su mažesnėmis kompiuterinėmis sąnaudomis. Finansų užduotyje laiko eilių kainų signalai, tiekti į OFE2 ir pritaikyti mokymo metu, buvo paversti prekybos veiksmais; optiniai išėjimai buvo lengvai interpretuojami iki pirkimo/pardavimo sprendimų naudojant paprastą slenksčio taisyklę, taip sukuriant visiškai fotoninį prekybos ciklą, veikiantį optiniais greičiais.
Kadangi pagrindiniai skaičiavimai vyksta pasyviuose optiniuose komponentuose, energijos sąnaudos vienai operacijai gali būti ženkliai mažesnės nei įprasto elektroninio priešapdorojimo. Tai atveria praktinį kelią hibridinėms architektūroms, kur fotonika tvarko intensyviausias ir latenciją jautrias front-end užduotis, o elektronika atlieka aukštesnio lygio sprendimų priėmimą bei mokymą. Tokia darbo dalijimosi strategija mažina bendrą energijos pėdsaką ir leidžia didesnį pralaidumą realaus laiko sistemoms.
Eksperimentuose taip pat analizuotos sistemos robustiškumo charakteristikos: triukšmo atsparumas, temperatūrinis elgesys ir įvesties variacijų poveikis. Tyrėjų ataskaitose pabrėžta, kad tinkama kalibracija ir adaptacinis valdymas leidžia palaikyti aukštą tikslumą net prie vidutinio lygio aplinkos trikdžių.
Related technologies and next steps
OFE2 įsiterpia į augančią integruotos fotonikos tyrimų ekosistemą: programuojami fotoniniai grandynai, neuromorfiniai fotoniniai procesoriai ir bangos ilgio skirstymu multiplexuotos optinės akceleratoriai. Tačiau pagrindinės problemos išlieka — patikimų optinių šaltinių integracija, pakavimas užtikrinant termišką stabilumą, gamybos kartotinumas ir dizaino įrankių tobulinimas, kurie gebėtų tiesiogiai konvertuoti mašinų mokymosi modelius į fizinius difrakcinius išsidėstymus.
Tsinghua komanda savo rezultatus publikavo žurnale Advanced Photonics Nexus ir išreiškė susidomėjimą bendradarbiavimu su grupėmis, kurioms reikalingi daug duomenų reikalaujantys ir latenciją kritiškai jautrūs uždaviniai. Pereiti nuo laboratorinių prototipų prie pramoninio diegimo reikės bendro projektavimo su pritaikymo tiekėjais — finansų įmonėmis, medicininių prietaisų gamintojais ir vaizdų apdorojimo bendrovėmis — kad sąsajos, valdymo elektronika ir algoritmai būtų paruošti gamybai.
Be to, svarbūs žingsniai ateityje apima:
- integruotų lazerinių šaltinių stabilumą ir ilgaamžiškumą, kad fotoniniai mazgai veiktų nepriklausomai ir patikimai;
- pakavimo sprendimus, užtikrinančius termiškai stabilias sąlygas ir apsaugą nuo aplinkos veiksnių;
- standartizuotas sąsajas tarp optinių ir elektroninių dalių, kurios leistų greitą integraciją į esamas duomenų centrų ar periferines sistemas;
- įrankius ir bibliotėkas, kurios automatizuotų svorių (weights) ir tinklo topologijos vertimą į difrakcinius profilius;
- sertifikavimo ir saugumo priemones, ypač taikant medicininiuose įrenginiuose ar finansų sektoriuje.
Expert Insight
Dr. Maria Alvarez, fotonikos sistemų inžinerė (fiktyvi), komentuoja: 'Šis darbas demonstruoja praktišką kelią, kaip optinis skaičiavimas gali patekti į programas, reikalaujančias tiek greičio, tiek konfigūravimo galimybių. Integruotas duomenų paruošimas ant lusto yra toks inžinerinis žingsnis, kuris užpildo spragą tarp koncepcinių optikos įrodymų ir naudingų, diegiamų akceleratorių. Visiškai pakeisti GPU dar esame nutolę, tačiau hibridinės fotoninės–elektroninės sistemos gali pakeisti, kaip projektuojame žemų delsų dirbtinio intelekto architektūras.'
Ateities perspektyvoje, derinant OFE2 tipo difrakcinius operatorius su kompaktiškais lazeriais ir ant lusto esančiais detektoriais, galima sukurti ypač greitus jutiklius ir krašto (edge) procesorius robotikai, autonominiams automobilams bei finansų sistemoms. Kai fotonikos gamyba bręsta ir algoritmai prisitaiko prie optinių apribojimų, galime tikėtis daugiau hibridinių sistemų, kurios naudos šviesą ten, kur ji turi didžiausią įtaką: pirmoje duomenų priėmimo grandyje.'
Šaltinis: scitechdaily
Palikite komentarą