Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI - Business Magazine Albania

Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI

Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI

Nvidia të hënën lançoi H200, një njësi përpunimi grafike e krijuar për trajnimin dhe vendosjen e llojeve të modeleve të inteligjencës artificiale që po fuqizojnë bumin gjenerues të AI. GPU-ja e re është një përmirësim nga H100, çipi OpenAI i përdorur për të trajnuar modelin e tij më të avancuar të gjuhës së madhe, GPT-4. Kompanitë e mëdha, startup-et dhe agjencitë qeveritare po konkurrojnë të gjitha për një furnizim të kufizuar të çipave.

Çipat H100 kushtojnë midis 25,000 dhe 40,000 dollarë, sipas një vlerësimi nga Raymond James, dhe mijëra prej tyre që punojnë së bashku nevojiten për të krijuar modelet më të mëdha në një proces të quajtur “trajnim”. Nvidia pret rreth 16 miliardë dollarë të ardhura për tremujorin e tretë fiskal, 170% më shumë se një vit më parë.

Përmirësimi kryesor me H200 është se ai përfshin 141 GB memorie “HBM3” të gjeneratës së ardhshme që do të ndihmojë çipin të kryejë “konkluzion” ose të përdorë një model të madh pasi të jetë trajnuar për të gjeneruar tekst, imazhe ose parashikime.

Nvidia H200 chips in an eight-GPU Nvidia HGX system.

Nvidia tha se H200 do të jetë në përputhje me H100, që do të thotë se kompanitë e AI që tashmë janë duke u trajnuar me modelin e mëparshëm nuk do të kenë nevojë të ndryshojnë sistemet e tyre të serverit ose softuerin për të përdorur versionin e ri. Ai të jetë i disponueshëm në konfigurimet e serverëve me katër GPU ose tetë GPU në sistemet e plota HGX të kompanisë, si dhe në një çip të quajtur GH200, i cili çifton GPU-në H200 me një procesor të bazuar në Arm. Sidoqoftë, H200 mund të mos mbajë për një kohë të gjatë kurorën e çipit më të shpejtë Nvidia AI.

Lexo edhe:Mësimet që SpongeBob ju mëson për biznesin!

Ndërsa kompani si Nvidia ofrojnë shumë konfigurime të ndryshme të çipave të tyre, gjysmëpërçuesit e rinj shpesh bëjnë një hap të madh përpara çdo dy vjet, kur prodhuesit kalojnë në një arkitekturë të ndryshme që zhbllokon më shumë përfitime të performancës sesa shtimi i memories ose optimizimeve të tjera më të vogla. Të dy H100 dhe H200 bazohen në arkitekturën Hopper të Nvidia.

Në tetor, Nvidia u tha investitorëve se do të kalonte nga një kadencë arkitekturore dyvjeçare në një model lëshimi njëvjeçar për shkak të kërkesës së lartë për GPU-të e saj.

Kompania shfaqi një rrëshqitje duke sugjeruar se do të lançojë çipin e saj B100, bazuar në arkitekturën e ardhshme Blackwell, në 2024.

cnbc

Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Kjo punë që e bëjmë me shumë dashuri nuk ka të paguar. Ne jemi platforma e vetme e cila promovon modelin pozitiv të sipërmarrjes së lirë. Përmes kësaj platforme mbështesim edukimin gjatë gjithë jetës si mjet për zhvillimin personal dhe profesional të brezave. Kontributi juaj do të na ndihmojë në vazhdimin e këtij misioni në gjithë trevat shqipfolëse.

Mund të kontribuoni KETU. Falemnderit.

Must watch
Business Mag Nr. #35 - Qershor 2024

Ja si sipërmarrës të guximshëm përmes inovacionit ndikojnë industri të tëra!

 

Ky numër i revistës mund të quhet numri i dedikuar sipërmarrësve, nismëtarëve dhe inovatorëve. Atyre të cilët me guxim, këmbëngulje dhe me risi nxisin transformimin e industrive me ndikim në jetët tona. Këto përvoja, sfida, ide të reja, aplikime dhe bashkëpunime të tyre, vijnë nëpërmjet Business Mag Albania, nr. 35. 

Për ty, që po e mban në dorë këtë revistë, kemi diçka të re! Tani mund të dëgjosh me zë artikujt që lexon tek BusinessMag. 

Në partneritet me Nullius in Verba, sjellim një mënyrë revolucionare për të konsumuar përmbajtjen. Falë teknologjisë së avancuar të AI, tani mund të dëgjoni me zë artikujt tuaj të preferuar në çdo kohë dhe vend, duke ju lejuar të informoheni ndërsa jeni në lëvizje. Ky bashkëpunim inovativ pasqyron përkushtimin tonë për të mbështetur sipërmarrjen dhe zhvillimin e modeleve të suksesshme, duke sjellë përvojë të re dhe vlerë të shtuar për ju si lexues. Skano kodet QR në çdo artikull dhe shijo nga kudo që të jesh një format të ri, mundësuar nga Inteligjenca Artificiale, aplikuar nga një …

Shiko më shumë
Na ndiqni në rrjetet sociale
0