Një studiues i sigurisë së inteligjencës artificiale është larguar nga kompania amerikane Anthropic, duke lënë pas një paralajmërim të pazakontë se “bota është në rrezik”.
Në letrën e dorëheqjes të publikuar në rrjetin X, Mrinank Sharma shprehet se po largohet për shkak të shqetësimeve të thella që ka lidhur me zhvillimin e AI, rreziqet e bioteknologjisë dhe gjendjen e përgjithshme të botës. Ai njoftoi se do të ndjekë shkrimin dhe studimin e poezisë dhe do të kthehet në Mbretërinë e Bashkuar për t’u “bërë i padukshëm” për një periudhë. Largimi i tij vjen në të njëjtën javë kur edhe një studiuese e OpenAI njoftoi dorëheqjen, duke shprehur shqetësime për vendimin e kompanisë që zhvillon ChatGPT për të futur reklama në chatbot-in e saj.
Anthropic, e njohur për chatbot-in Claude, së fundmi publikoi edhe disa reklama që kritikonin OpenAI për përfshirjen e reklamave për disa përdorues. Kompania, e themeluar në vitin 2021 nga ish-punonjës të OpenAI, është pozicionuar si një aktor me qasje më të fortë ndaj sigurisë dhe etikës në zhvillimin e inteligjencës artificiale. Sharma drejtonte një ekip që merrej me kërkime mbi mekanizmat e sigurisë së AI. Në letrën e tij, ai përmend kontributet e veta, përfshirë studimet mbi pse sistemet e AI “i bëjnë qejfin” përdoruesve, rreziqet e përdorimit të AI në bioterrorizëm dhe mënyrat se si asistentët virtualë mund të na bëjnë “më pak njerëzorë”.
Megjithatë, ai thekson se, pavarësisht se e ka shijuar kohën në kompani, “ka ardhur momenti për të ecur përpara”. “Bota është në rrezik. Dhe jo vetëm nga AI apo bioterrorizmi, por nga një seri krizash të ndërlidhura që po zhvillohen pikërisht tani,” shkruan Sharma.
Ai shton se ka parë nga afër sa e vështirë është që vlerat etike të udhëheqin realisht veprimet, përfshirë edhe në Anthropic, ku sipas tij ekzistojnë presione të vazhdueshme për të lënë mënjanë atë që ka më shumë rëndësi. Në një reagim tjetër, Sharma shkroi se do të kthehet në Mbretërinë e Bashkuar dhe do të “zhduket nga vëmendja publike” për një periudhë kohe.
Parime që zbehen?
Anthropic e përshkruan veten si një “korporatë me interes publik”, e dedikuar për të maksimizuar përfitimet e AI dhe për të minimizuar rreziqet. Kompania ka theksuar vazhdimisht rreziqet që vijnë nga sistemet e avancuara të inteligjencës artificiale, përfshirë keqpërdorimin në konflikte apo humbjen e përputhjes me vlerat njerëzore. Ajo ka publikuar raporte mbi sigurinë e produkteve të veta dhe ka pranuar se teknologjia e saj është përdorur edhe nga hacker-at për sulme kibernetike më të sofistikuara.
Nga ana tjetër, Anthropic është përballur edhe me kritika. Në vitin 2025, kompania pranoi të paguajë 1.5 miliardë dollarë për të zgjidhur një padi kolektive nga autorë që e akuzonin se kishte përdorur veprat e tyre pa leje për trajnimin e modeleve të AI. Ashtu si OpenAI, edhe Anthropic po përpiqet të shfrytëzojë potencialin komercial të teknologjisë, përmes produkteve si Claude, rivali i ChatGPT. Së fundmi, kompania publikoi një reklamë që kritikonte vendimin e OpenAI për të futur reklama në ChatGPT. CEO i OpenAI, Sam Altman, më parë ishte shprehur se i urrente reklamat dhe se do t’i përdorte vetëm si “zgjidhje të fundit”, por javën e kaluar reagoi ndaj kritikave të Anthropic, duke u tallur edhe për postimin e gjatë që bëri mbi këtë çështje.
Në një opinion të botuar në New York Times, ish-studiuesja e OpenAI, Zoe Hitzig, shkroi se ka “rezerva të thella” mbi strategjinë e kompanisë.
“Njerëzit u tregojnë chatbot-ëve frikërat e tyre shëndetësore, problemet në marrëdhënie, bindjet për Zotin dhe jetën pas vdekjes,” shkruan ajo.
“Reklamimi i ndërtuar mbi këtë arkiv të dhënash krijon potencial për manipulim të përdoruesve në mënyra që ende nuk i kuptojmë dhe nuk dimë si t’i parandalojmë.”
Hitzig paralajmëron se një “erozion i parimeve të OpenAI për të maksimizuar angazhimin e përdoruesve” mund të ketë nisur tashmë dhe se ky proces mund të përshpejtohet nëse qasja ndaj reklamave nuk reflekton realisht misionin për të sjellë përfitime për njerëzimin.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto
