Nvidia bën një investim të rëndësishëm në startup-in “Thinking Machines” të Mira Muratit

Nvidia ka bërë një investim të konsiderueshëm në startup-in e inteligjencës artificiale Thinking Machines Lab, i themeluar nga Mira Murati. Lajmi u bë publik së fundmi nga kompanitë, të cilat gjithashtu konfirmuan një bashkëpunim strategjik mes tyre.

Shuma e investimit nuk është bërë publike. Megjithatë, sipas marrëveshjes, Thinking Machines do të blejë hardware të inteligjencës artificiale me vlerë miliarda dollarë nga Nvidia. Startup-i kishte ngritur më herët 2 miliardë dollarë financim fillestar (seed funding) nga një konsorcium investitorësh që përfshinte Nvidia, Advanced Micro Devices (AMD), ServiceNow dhe kompani të tjera teknologjike. Ky financim e vlerësoi kompaninë rreth 12 miliardë dollarë, ndërsa nuk dihet ende nëse investimi i ri i Nvidia e ka rritur më tej këtë vlerësim. Thinking Machines u themelua në shkurt të vitit të kaluar nga Mira Murati, ish-drejtoreshë teknologjie (CTO) e OpenAI. Gjatë kohës së saj në OpenAI, ajo drejtoi zhvillimin e produkteve të rëndësishme si ChatGPT dhe gjeneratori i videove Sora.

Platforma Tinker dhe personalizimi i modeleve AI

Thinking Machines prezantoi vitin e kaluar produktin e saj të parë: një shërbim cloud të quajtur Tinker, që u mundëson zhvilluesve të krijojnë versione të personalizuara të modeleve të mëdha të gjuhës (LLM) me burim të hapur. Platforma mbështet më shumë se një duzinë modelesh të mëdha gjuhësore, përfshirë edhe modele nga seria Llama e Meta Platforms. Tinker përdor një teknologji të quajtur LoRA për të realizuar personalizimin e modeleve. Kjo metodë shton një numër të vogël peshash të reja mbi modelin ekzistues, pa pasur nevojë të ndryshohen parametrat origjinalë të tij. Kjo e bën procesin më të lirë dhe më efikas për trajnim.

Lexo edhe:Mira Murati rikthehet fuqishëm, ‘Tinker’ sfidon gjigantët e Inteligjencës Artificiale

Infrastrukturë gjigante AI

Si pjesë e marrëveshjes me Nvidia, Thinking Machines planifikon të blejë të paktën 1 gigavat kapacitet kompjuterik për AI nga prodhuesi i çipave. Sipas CEO-s së Nvidia, Jensen Huang, ndërtimi i një infrastrukture AI me kapacitet 1 gigavat mund të kushtojë rreth 50 miliardë dollarë, ku rreth dy të tretat e kostos lidhen me procesorët grafikë (GPU). Startup-i do të përdorë gjeneratën më të re të GPU-ve Rubin të Nvidia. Kjo seri përfshin dy çipe kryesore:

• Rubin CPX, i optimizuar për një pjesë specifike të llogaritjeve që lidhen me proceset e inferencës së AI
• Rubin, një procesor më i përgjithshëm që mbështet shumë lloje përdorimesh dhe përmban rreth 336 miliardë transistorë

Përveç GPU-ve, Thinking Machines do të përdorë edhe procesorët Vera CPU të Nvidia. Çdo procesor ka 88 bërthama dhe mund të ekzekutojë deri në 176 procese paralelisht. Sipas kompanive, instalimi i kësaj infrastrukture do të nisë në fillim të vitit të ardhshëm.

Bashkëpunim për sisteme trajnimi dhe shërbimi AI

Partneriteti mes Nvidia dhe Thinking Machines përfshin edhe zhvillimin e sistemeve të trajnimit dhe ekzekutimit (serving systems) për arkitekturat e Nvidia.  Në botën e AI, “serving systems” zakonisht i referohen shtresës software që menaxhon inferencën, duke shpërndarë llogaritjet në GPU të ndryshme dhe duke optimizuar performancën. Nvidia tashmë ka një sistem të tillë open-source të quajtur Dynamo. “Ky partneritet përshpejton aftësinë tonë për të ndërtuar AI që njerëzit mund ta formësojnë dhe ta bëjnë të tyre, ndërsa ajo ndikon pozitivisht edhe në potencialin njerëzor,” tha Murati.

Sasia e madhe e hardware-it që Thinking Machines po porosit sugjeron se kompania po përgatit produkte të reja të avancuara të inteligjencës artificiale.

Sipas disa shpalljeve të fundit për punë, startup-i po zhvillon:

• modele AI të optimizuara për përpunimin e audios
• modele për arsyetim vizual
• implementime të personalizuara të komponentëve bazë të modeleve AI, si p.sh. mekanizmi i “attention” në arkitekturën Transformer

Këto zhvillime tregojnë se Thinking Machines synon të ndërtojë modele AI të gjeneratës së ardhshme, duke përdorur një nga infrastrukturat më të mëdha kompjuterike të planifikuara deri tani në këtë sektor.

SA