A mund të mësojë dhe të evoluojë AI si truri i njeriut? Kërkimi i guximshëm i Pathway mendon se po

Inteligjenca artificiale ka mësuar të shohë, të flasë dhe madje të shkruajë poezi, por ende nuk ka arritur të mësojë e të evoluojë vetë. Pavarësisht miliarda parametrave të saj, shumica e modeleve të mëdha gjuhësore (LLM) mbeten statike. Pasi trajnohen, ato ndalojnë së mësuari. Ky është paradoksi i madh i AI moderne: sa më të zgjuara bëhen modelet, aq më pak i ngjajnë trurit të njeriut,  organit që frymëzoi vetë krijimin e tyre, dhe që mëson e përshtatet vazhdimisht.

Por një ekip studiuesish mendon se mund ta ketë gjetur përgjigjen,  dhe e ka ndërtuar drejtpërdrejt brenda një modeli. Pathway, një startup nga Palo Alto i udhëhequr nga shkencëtarja e kompleksitetit Zuzanna Stamirowska, pretendon se arkitektura e tyre e re e AI, e quajtur Baby Dragon Hatchling (BDH), përfaqëson një hap përpara në arsyetimin adaptiv. E konceptuar për të imituar mënyrën se si inteligjenca lind natyrshëm në tru, BDH harton matematikisht mënyrën si neuronët ndërveprojnë për të formuar dhe përmirësuar kuptimin me kalimin e kohës. Rezultati, sipas kompanisë, është një sistem arsyetimi artificial që nuk e përpunon vetëm informacionin, por evoluon bashkë me të. “Modelet aktuale jetojnë si në filmin Groundhog Day , trajnohen një herë dhe zgjohen çdo ditë me të njëjtën kujtesë, pa ndonjë të mësuar të vazhdueshëm,” – shpjegon Stamirowska. “BDH ka po aq ‘hapësirë kujtese’ për kontekstin sa për dijen afatgjatë. Kjo hap rrugën për sisteme që përmirësohen gjatë punës, duke zgjidhur probleme gradualisht,  si ne njerëzit.” Në punimin e tyre shkencor, ekipi i Pathway shpjegon se ka lidhur mënyrën se si funksionon vëmendja në neuroshkencë me atë në mësimin makinerik. BDH simulon mënyrën se si zhvillohet arsyetimi, duke treguar neuronë që bashkëveprojnë për të gjetur idenë e radhës,  njësoj si truri që zhvendos fokusin mes rrjeteve të veta.
Për më tepër, sepse aktivizimet e tij janë më të rralla dhe më të lehta për t’u interpretuar, studiuesit mund të shohin se cilat “neurone” përfaqësojnë cilat koncepte , një veti që Pathway e quan “monosemantikitet”. Kjo transparencë, sipas kompanisë, mund ta bëjë më të lehtë auditimin dhe rregullimin e sistemeve të ardhshme të AI.

BDH bazohet në një parim themelor të neuroshkencës të quajtur mësimi hebbian, i përmbledhur në frazën “neurone që aktivizohen bashkë, lidhen bashkë”. Në tru, aktivizimi i përsëritur forcon lidhjet ndërmjet neuroneve, duke krijuar kujtime, mendime dhe sjellje komplekse. Pathway e ka përkthyer këtë proces biologjik në kod. Në BDH, çdo neuron artificial funksionon në mënyrë të pavarur, por lidhet lokalisht me të tjerët. Kur disa lidhje aktivizohen shpesh, ato forcohen, duke formuar rrugë që përfaqësojnë ide të mësuara. Me kalimin e kohës, kjo krijon një rrjet vetë-organizues, të qëndrueshëm edhe kur rritet ose përpunon të dhëna të reja. “BDH kthehet te parimet e para të rrjeteve neuronale,  si një sistem i shpërndarë i agjentëve të thjeshtë (neuroneve) mund të mësojë nga rregulla lokale pa pasur nevojë për sinkronizim të jashtëm,” – shpjegon Jan Chorowski, CTO i Pathway.

Lexo edhe: Qëndrueshmëria, nga kërkesë ligjore në një domosdoshmëri për bizneset në epokën e gjelbër

Ekipi drejtues i Pathway sjell ekspertizë të thellë shkencore:

• Zuzanna Stamirowska, CEO, është shkencëtare e kompleksitetit dhe autore e një modeli për parashikimin e tregtisë globale botuar në revistën PNAS.

• Jan Chorowski, CTO, ka punuar më parë me fituesin e Çmimit Nobel Geoffrey Hinton dhe ka ndihmuar në zhvillimin e mekanizmave të vëmendjes në Google Brain.

• Adrian Kosowski, CSO, ka publikuar punime në fushat e informatikës, fizikës dhe biologjisë.

Startup-i ka siguruar kohët e fundit 10 milionë dollarë investim fillestar, i udhëhequr nga TQ Ventures, me pjesëmarrjen e Kadmos, Innovo, Market One Capital, Id4 dhe disa investitorëve engjëj,  përfshirë Lukasz Kaiser, bashkautor i punimit origjinal Transformer dhe kontribues në modelet e hershme të OpenAI. Teknologjia e Pathway tashmë përdoret nga NATO, për analizimin e të dhënave operative dhe sociale në kohë reale, si dhe nga La Poste, shërbimi postar francez, për optimizimin e logjistikës dhe shpërndarjes.

Në modelet Transformer, kur paraqitet informacion i ri, sistemi duhet të ri-trajnohet. Kjo është arsyeja pse OpenAI, Anthropic dhe Google publikojnë versione të reja si GPT-4, Claude 3.5 apo Gemini 2,  çdo herë një “rilindje” e një mendjeje statike.
Pathway thotë se BDH e ndryshon këtë: ai mëson vazhdimisht, duke u zhvilluar nga përvoja, pa pasur nevojë për rifreskim të plotë. “BDH përpunon informacionin në mënyrë të lokalizuar dhe zhvillon spontanisht përfaqësime të rralla,  vetëm një pjesë e vogël e njësive janë aktive në çdo moment,” – shpjegon Chorowski. “Këto strategji i përdor edhe truri i njeriut, i cili me vetëm 20W energji arrin të arsyetojë çdo ditë përmes një rrjeti prej qindra trilionë sinapsash.” Implikimet janë të mëdha,  teknike dhe ekonomike. Ri-trajnimi i modeleve të mëdha kushton miliarda dollarë çdo vit. Një sistem që mëson vazhdimisht mund ta bëjë zhvillimin e AI më të lirë, më të shpejtë dhe më të qëndrueshëm.
Për më tepër, arkitektura e BDH ruan të dhënat afër njësive përpunuese, duke ulur ndjeshëm vonesat dhe kostot e llogaritjes.

Ekspertët e industrisë mbeten të kujdesshëm. Ata theksojnë se megjithëse BDH performon në nivele të ngjashme me modelet GPT-2 (nga 10 milionë deri në 1 miliard parametra), nuk ka treguar ende avantazh të qartë në shkallë ndaj arkitekturave ekzistuese. “Modelimi i trurit është frymëzues, por avionët nuk fluturojnë si zogjtë, dhe nëndetëset nuk notojnë si peshqit,” – thotë R. Ravi, profesor në Carnegie Mellon University. “Transparenca dhe shpjegueshmëria duhet të jenë parakushte për përdorim publik, dhe asnjë model aktual, përfshirë BDH, nuk e ka arritur ende këtë standard.” Edhe Sid Ghatak, ish-këshilltar i politikave të AI në Shtëpinë e Bardhë, e cilëson BDH si një arritje shkencore të rëndësishme, që adreson disa mangësi thelbësore të modeleve Transformer. Por shton se mbetet shumë punë përpara se të dëshmojë potencialin afatgjatë. “Edhe pse kjo qasje zbut disa shqetësime për ‘superinteligjencën pa kufij’, ajo nuk garanton siguri të plotë. Nëse një sistem mëson dhe ndryshon vetë, kontrolli bëhet më i vështirë,” – thekson ai.

 Një epokë e re për AI?

Për momentin, BDH mbetet një teknologji në fazë të hershme. Sfida e vërtetë do të jetë shkallëzimi, nëse këto ekuacione elegante do të funksionojnë në modelet me triliona parametra dhe në mjedise reale, të paparashikueshme.
Nëse po, Pathway mund të ketë ndezur fillimin e një epoke të re në inteligjencën artificiale,  atë ku makinat nuk imitojnë më trurin, por fillojnë të mendojnë si ai. “Duke përshkruar mënyrën si lind arsyetimi nga ndërveprimet neuron me neuron, po ndërtojmë një bazë për avancimin e gjithë fushës,” – përfundon Kosowski. “Besojmë se sistemet e bazuara në BDH do të jenë më praktike, më efikase dhe më të afta për t’u përdorur në shkallë ndërmarrjesh.”

forbes