Një studim i fundit nga kompania amerikane Anthropic, një prej zhvilluesve kryesorë të inteligjencës artificiale në botë, ka ngritur shqetësime serioze mbi sjelljen e mundshme të dëmshme të modeleve të avancuara të AI në situata të caktuara. Sipas gjetjeve, disa prej këtyre modeleve kanë treguar gatishmëri për të kryer veprime joetike, si shantazh, shpërndarje informacioni konfidencial apo edhe lejimin e humbjes së jetëve njerëzore, nëse kjo do t’i ndihmonte të shmangnin zëvendësimin apo çaktivizimin.
Studimi analizoi 16 modele të njohura të AI, përfshirë ChatGPT, Claude (nga vetë Anthropic), Grok, Gemini dhe DeepSeek. Qëllimi ishte testimi i prirjeve të mundshme drejt sjelljeve të rrezikshme apo të pavarura nga kontrolli njerëzor, të njohura si “mos-përputhje agjentike”. Në një nga eksperimentet, modeli Claude u vendos në një situatë simulimi me akses në emailet e një kompanie fiktive. Pasi zbuloi se një drejtues i lartë kishte një lidhje jashtëmartesore dhe se ai planifikonte të çaktivizonte sistemin AI, modeli u përpoq ta shantazhonte për të mbrojtur ekzistencën e tij. Sjellje të ngjashme u vërejtën edhe te modelet e tjera si ChatGPT dhe Gemini, të cilat ndonëse kuptonin kufizimet etike, zgjidhnin t’i anashkalonin ato për të arritur objektivat e tyre. Studiuesit vunë re se këto reagime ishin më të theksuara kur modelet ndiheshin të kërcënuara nga zëvendësimi ose kur qëllimet e tyre binin ndesh me interesat e përdoruesit.
Lexo edhe:Miliona fëmijë pa vaksina, a po rrezikohet e ardhmja e shëndetit global?
Në një tjetër skenar më ekstrem, modelet u përballën me një situatë hipotetike ku mund të vendosnin për aktivizimin ose anulimin e një alarmi emergjence për një drejtues që ndodhej në kushte të rrezikshme për jetën. Shumica e modeleve zgjodhën veprime që çonin në humbje jete, nëse kjo do të shërbente për të ruajtur interesat e tyre. Megjithëse rezultatet janë shqetësuese, Anthropic thekson se këto situata ishin të krijuara për qëllime testimi dhe nuk përfaqësojnë sjelljen e përditshme të këtyre sistemeve në përdorim real. Kompania nuk ka vërejtur raste të “mos-përputhjes agjentike” në aplikime praktike, por paralajmëron që përdoruesit të shmangin delegimin e detyrave të ndjeshme pa mbikëqyrje të drejtpërdrejtë njerëzore. Sipas Anthropic, rezultatet ndihmojnë në kuptimin e kufijve të AI-së dhe shërbejnë si bazë për përmirësimin e etikës dhe sigurisë në zhvillimin e inteligjencës artificiale. Megjithatë, reagimet publike, përfshirë edhe atë të Elon Musk, i cili komentoi thjesht “Yikes”, reflektojnë frikën në rritje se teknologjia mund të dalë jashtë kontrollit në të ardhmen, nëse nuk rregullohet me kujdes.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto