OpenAI krijon një ekip mbikëqyrës me Sam Altman në bord, fillon trajnimin e modelit të ri

OpenAI ka pohuar se krijoi një Komitet të Sigurisë dhe Sigurisë të udhëhequr nga drejtues të lartë, pasi shpërndau bordin e tij të mëparshëm mbikëqyrës në mes të majit.

Komiteti i ri do të jetë përgjegjës për dhënien e rekomandimeve për bordin e OpenAI “mbi vendimet kritike të sigurisë dhe sigurisë për projektet dhe operacionet OpenAI”, tha kompania. Ajo vjen pasi zhvilluesi i asistentit virtual ChatGPT njoftoi se ka filluar trajnimin e “modelit të kufirit të ardhshëm”.

Firma është shprehur në një postim në blog se parashikon “sistemet që rezultojnë të na sjellin në nivelin tjetër të aftësive në rrugën tonë drejt AGI”, ose inteligjencës së përgjithshme artificiale, që lidhet me AI që është po aq i zgjuar, ose më i zgjuar se njerëzit. 

Formimi i një ekipi të ri mbikëqyrës vjen pasi OpenAI shpërndau një ekip të mëparshëm që ishte i fokusuar në rreziqet afatgjata të AI. Para kësaj, të dy drejtuesit e ekipit, bashkëthemeluesi i OpenAI, Ilya Sutskever dhe Jan Leike,  njoftuan largimet e tyre  nga  startup-i i mbështetur nga Microsoft.

Siguria e AI ka qenë në qendër të një debati më të madh, pasi modelet e mëdha që mbështesin aplikacionet, si ChatGPT, bëhen më të avancuara. Zhvilluesit e produkteve të AI po pyesin gjithashtu se kur do të arrijë AGI dhe çfarë rreziqesh do të vijnë me të. Bret Taylor, Adam D’Angelo, Nicole Seligman, të cilët janë të gjithë në bordin e drejtorëve të OpenAI, tani ulen në komitetin e ri të sigurisë së bashku me Altman.

Gjatë 90 ditëve të ardhshme, grupi i sigurisë do të vlerësojë proceset dhe masat mbrojtëse të OpenAI dhe do të ndajë rekomandimet e tyre me bordin e kompanisë. OpenAI do të sigurojë një përditësim mbi rekomandimet që ka miratuar në një datë të mëvonshme.

cnbc.com