Kompania e inteligjencës artificiale OpenAI thotë se ka zbuluar pse modelet e mëdha të gjuhës (LLMs) shpesh “hallucinojnë”,pra shpikin përgjigje dhe si mund të frenohet ky fenomen.
Në një studim të ri, OpenAI shpjegon se algoritmet shpërblejnë chatbot-et kur ato bëjnë hamendësime. Në vend që të pranojnë se nuk e dinë përgjigjen, modelet gjeneruese tentojnë të gjejnë një alternativë, duke e paraqitur si fakt.
Sipas studiuesve, këto “hallucinacione” burojnë nga një gabim në klasifikimin binar, kur modelet duhet ta kategorizojnë një vëzhgim të ri në një nga dy grupet e caktuara. Problemi vazhdon sepse LLM-të janë “optimizuar për të qenë nxënës të mirë testesh, dhe hamendësimi kur ka pasiguri përmirëson rezultatin e testit,” thekson raporti.Studiuesit e krahasojnë këtë me sjelljen e nxënësve që në një provim me alternativa të shumëfishta hamendësojnë përgjigjen, apo që në një ese “improvizojnë”, pasi marrin më shumë pikë për një përpjekje të gabuar sesa për të lënë bosh.
Sistemi i brendshëm i pikëzimit i LLM-ve i jep një pikë për një përgjigje të saktë, ndërsa nuk jep asgjë për boshllëqe ose për deklaratën “nuk e di”. Pikërisht ky mekanizëm i nxit modelet të krijojnë përgjigje edhe kur nuk kanë siguri.
Lexo edhe: Stetoskopi me Inteligjencë Artificiale që zbulon sëmundjet e zemrës në sekonda
Ky raport vjen pak javë pasi OpenAI prezantoi GPT-5, modelin që kompania e përshkruan si “të papërshkueshëm nga halucinacionet”, duke pretenduar se prodhon 46% më pak pasaktësi se paraardhësi i tij, GPT-4o. Megjithatë, një studim i fundit i kompanisë amerikane NewsGuard zbuloi se modelet ChatGPT shpërndajnë pasaktësi në rreth 40% të përgjigjeve të tyre.
Pyetje që AI nuk mund t’i përgjigjet
Përmes fazave të paratrajnimit dhe pastrajnimit, chatbot-et mësojnë të parashikojnë fjalën e radhës në një tekst të madh. Raporti i OpenAI thekson se ndërsa disa gjëra si drejtshkrimi dhe gramatika ndjekin rregulla të qarta, ka tema apo të dhëna që janë të vështira ose edhe të pamundura për t’u identifikuar me saktësi nga AI.
Për shembull, algoritmet mund të dallojnë fotografitë kur etiketohen si “mace” ose “qen”, por nëse ato do të kategorizoheshin sipas ditëlindjes së kafshës, modeli nuk do të ishte në gjendje të jepte një përgjigje të saktë. Sipas studiuesve, ky lloj detyre do të prodhonte gjithmonë gabime, “pavarësisht se sa i avancuar është algoritmi.”
Një nga përfundimet kryesore të raportit është se modelet nuk do të jenë kurrë 100% të sakta, pasi “disa pyetje të botës reale janë në vetvete të papërgjegjshme.”
Për të kufizuar halucinacionet, OpenAI sugjeron që përdoruesit të udhëzojnë modelet gjuhësore të përgjigjen me një “nuk e di” kur nuk kanë siguri dhe të ndryshohet skema ekzistuese e pikëzimit, në mënyrë që të mos shpërblehet thjesht prodhimi i një përgjigjeje, por edhe pranimi i pasigurisë.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto