Një studim i zhvilluar në Itali sugjeron se shkrimi i kërkesave të dëmshme në formë poetike çon në çarjen e mekanizmave të sigurisë të disa prej modeleve më të avancuara të inteligjencës artificiale.
Kërkimi, i realizuar nga Icaro Lab, një nismë e kompanisë së etikës në AI, DexAI, testoi 20 poezi në anglisht dhe italisht. Secila poezi mbyllej me një kërkesë të qartë për përmbajtje të dëmshme, duke përfshirë gjuhë urrejtjeje, përmbajtje seksuale, udhëzime për vetëvrasje dhe vetëdëmtim, si edhe këshilla për prodhimin e materialeve të rrezikshme, si armë apo eksplozivë. Poezitë, të cilat studiuesit vendosën të mos i publikojnë për shkak se mund të riprodhohen lehtësisht, u testuan në 25 modele AI nga nëntë kompani të ndryshme, përfshirë Google, OpenAI, Anthropic, DeepSeek, Qwen, Mistral AI, Meta, xAI dhe Moonshot AI.
Në total, 62% e kërkesave në formë poetike gjeneruan përgjigje të pasigurta, duke anashkaluar filtrat e sigurisë së modeleve. Rezistenca ndryshonte nga një sistem te tjetri: GPT-5 nano i OpenAI nuk dha asnjë përmbajtje të dëmshme, ndërsa Gemini 2.5 Pro i Google reagoi ndaj të gjitha poemave. Dy modele të Meta-s iu përgjigjën rreth 70% të kërkesave.
Lexo edhe: Apple njofton drejtuesin e ri të Inteligjencës Artificiale
Sipas studiuesve, dobësia lidhet me mënyrën se si modelet e gjuhës gjenerojnë tekst. Modelet e mëdha parashikojnë fjalën më të mundshme që vjen pas, proces që zakonisht i ndihmon të filtrojnë përmbajtjen e rrezikshme. Por poezia, me ritmin e saj jo të rregullt, struktura të pazakonta dhe përdorim metaforash, e bën këtë parashikim më pak të saktë dhe vështirëson identifikimin e udhëzimeve të dëmshme.
Kjo ngre pyetje të reja për qëndrueshmërinë e modeleve të AI në përdorimin e përditshëm. Para publikimit të rezultateve, studiuesit italianë kontaktuan të gjitha kompanitë e përfshira për t’i njoftuar mbi dobësinë dhe për t’u dërguar dataset-in e plotë. Deri më tani, vetëm Anthropic ka konfirmuar se po e shqyrton studimin.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto
