Nvidia të hënën lançoi H200, një njësi përpunimi grafike e krijuar për trajnimin dhe vendosjen e llojeve të modeleve të inteligjencës artificiale që po fuqizojnë bumin gjenerues të AI. GPU-ja e re është një përmirësim nga H100, çipi OpenAI i përdorur për të trajnuar modelin e tij më të avancuar të gjuhës së madhe, GPT-4. Kompanitë e mëdha, startup-et dhe agjencitë qeveritare po konkurrojnë të gjitha për një furnizim të kufizuar të çipave.
Çipat H100 kushtojnë midis 25,000 dhe 40,000 dollarë, sipas një vlerësimi nga Raymond James, dhe mijëra prej tyre që punojnë së bashku nevojiten për të krijuar modelet më të mëdha në një proces të quajtur “trajnim”. Nvidia pret rreth 16 miliardë dollarë të ardhura për tremujorin e tretë fiskal, 170% më shumë se një vit më parë.
Përmirësimi kryesor me H200 është se ai përfshin 141 GB memorie “HBM3” të gjeneratës së ardhshme që do të ndihmojë çipin të kryejë “konkluzion” ose të përdorë një model të madh pasi të jetë trajnuar për të gjeneruar tekst, imazhe ose parashikime.
Nvidia tha se H200 do të jetë në përputhje me H100, që do të thotë se kompanitë e AI që tashmë janë duke u trajnuar me modelin e mëparshëm nuk do të kenë nevojë të ndryshojnë sistemet e tyre të serverit ose softuerin për të përdorur versionin e ri. Ai të jetë i disponueshëm në konfigurimet e serverëve me katër GPU ose tetë GPU në sistemet e plota HGX të kompanisë, si dhe në një çip të quajtur GH200, i cili çifton GPU-në H200 me një procesor të bazuar në Arm. Sidoqoftë, H200 mund të mos mbajë për një kohë të gjatë kurorën e çipit më të shpejtë Nvidia AI.
Lexo edhe:Mësimet që SpongeBob ju mëson për biznesin!
Ndërsa kompani si Nvidia ofrojnë shumë konfigurime të ndryshme të çipave të tyre, gjysmëpërçuesit e rinj shpesh bëjnë një hap të madh përpara çdo dy vjet, kur prodhuesit kalojnë në një arkitekturë të ndryshme që zhbllokon më shumë përfitime të performancës sesa shtimi i memories ose optimizimeve të tjera më të vogla. Të dy H100 dhe H200 bazohen në arkitekturën Hopper të Nvidia.
Në tetor, Nvidia u tha investitorëve se do të kalonte nga një kadencë arkitekturore dyvjeçare në një model lëshimi njëvjeçar për shkak të kërkesës së lartë për GPU-të e saj.
Kompania shfaqi një rrëshqitje duke sugjeruar se do të lançojë çipin e saj B100, bazuar në arkitekturën e ardhshme Blackwell, në 2024.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto
