Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI - Business Magazine Albania

Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI

Nvidia lançon H200, çipin e saj më të ri të nivelit të lartë për trajnimin e modeleve të AI

Nvidia të hënën lançoi H200, një njësi përpunimi grafike e krijuar për trajnimin dhe vendosjen e llojeve të modeleve të inteligjencës artificiale që po fuqizojnë bumin gjenerues të AI. GPU-ja e re është një përmirësim nga H100, çipi OpenAI i përdorur për të trajnuar modelin e tij më të avancuar të gjuhës së madhe, GPT-4. Kompanitë e mëdha, startup-et dhe agjencitë qeveritare po konkurrojnë të gjitha për një furnizim të kufizuar të çipave.

Çipat H100 kushtojnë midis 25,000 dhe 40,000 dollarë, sipas një vlerësimi nga Raymond James, dhe mijëra prej tyre që punojnë së bashku nevojiten për të krijuar modelet më të mëdha në një proces të quajtur “trajnim”. Nvidia pret rreth 16 miliardë dollarë të ardhura për tremujorin e tretë fiskal, 170% më shumë se një vit më parë.

Përmirësimi kryesor me H200 është se ai përfshin 141 GB memorie “HBM3” të gjeneratës së ardhshme që do të ndihmojë çipin të kryejë “konkluzion” ose të përdorë një model të madh pasi të jetë trajnuar për të gjeneruar tekst, imazhe ose parashikime.

Nvidia H200 chips in an eight-GPU Nvidia HGX system.

Nvidia tha se H200 do të jetë në përputhje me H100, që do të thotë se kompanitë e AI që tashmë janë duke u trajnuar me modelin e mëparshëm nuk do të kenë nevojë të ndryshojnë sistemet e tyre të serverit ose softuerin për të përdorur versionin e ri. Ai të jetë i disponueshëm në konfigurimet e serverëve me katër GPU ose tetë GPU në sistemet e plota HGX të kompanisë, si dhe në një çip të quajtur GH200, i cili çifton GPU-në H200 me një procesor të bazuar në Arm. Sidoqoftë, H200 mund të mos mbajë për një kohë të gjatë kurorën e çipit më të shpejtë Nvidia AI.

Lexo edhe:Mësimet që SpongeBob ju mëson për biznesin!

Ndërsa kompani si Nvidia ofrojnë shumë konfigurime të ndryshme të çipave të tyre, gjysmëpërçuesit e rinj shpesh bëjnë një hap të madh përpara çdo dy vjet, kur prodhuesit kalojnë në një arkitekturë të ndryshme që zhbllokon më shumë përfitime të performancës sesa shtimi i memories ose optimizimeve të tjera më të vogla. Të dy H100 dhe H200 bazohen në arkitekturën Hopper të Nvidia.

Në tetor, Nvidia u tha investitorëve se do të kalonte nga një kadencë arkitekturore dyvjeçare në një model lëshimi njëvjeçar për shkak të kërkesës së lartë për GPU-të e saj.

Kompania shfaqi një rrëshqitje duke sugjeruar se do të lançojë çipin e saj B100, bazuar në arkitekturën e ardhshme Blackwell, në 2024.

cnbc

Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Kjo punë që e bëjmë me shumë dashuri nuk ka të paguar. Ne jemi platforma e vetme e cila promovon modelin pozitiv të sipërmarrjes së lirë. Përmes kësaj platforme mbështesim edukimin gjatë gjithë jetës si mjet për zhvillimin personal dhe profesional të brezave. Kontributi juaj do të na ndihmojë në vazhdimin e këtij misioni në gjithë trevat shqipfolëse.

Mund të kontribuoni KETU. Falemnderit.

Must watch
Business Mag Nr. #36 - Tetor 2024

Vjeshta solli rikthimin e aktiviteteve biznesore në ritmin e tyre të plotë, pas pushimeve të verës. Sipërmarrjet shqiptare, me dinamikat e tyre të pandalshme, janë aktualisht para një sfide dhe mundësie më të madhe. Proceset e përafrimit me BE-në krijojnë një mundësi për një treg më të madh, por kjo kërkon njëkohësisht përgatitjen të duhur për tregun.

Eventet e fundit, veçanërisht Future2Tech, tregoi se shumë kompani shqiptare, kryesisht në fushën e zhvillimit të Softwareve, po punojnë tashmë për tregun e huaj dhe janë kompani ndërkombëtare në kuptimin e plotë të fjalës. 

Në brendësi të këtij numri ne kemi sjellë histori brandesh dhe histori njerëzore; histori sipërmarrësish dhe profesionistësh, të cilët kanë investuar kohë dhe pasion në punët e tyre për të parë rezultatet që duken sot. Një prej brandeve për të cilin flasim sot, mbyll 3 dekada biznes në Shqipëri, diçka që vlen të marrë përgëzime nga të gjithë. 

Histori nga vendi dhe diaspora, rrugëtime në tregti, shërbim, apo edhe konsulencë, ky numër sjell një gamë të gjerë artikujsh, të shtrirë madje mes biznesit dhe artit, të cilat, kur ndërthuren, sjellin zhvillime shumë të bukura për shoqërinë.

Interesant është fakti se kushdo që …

Shiko më shumë
Na ndiqni në rrjetet sociale
0