Lodrat e fëmijëve me AI janë tashmë realitet, por a janë të sigurta?

Ajo që dikur ishte një lodër e thjeshtë prej pellushi, e gjallëruar vetëm nga imagjinata e fëmijëve, sot është shndërruar në një shoqërues që flet, përgjigjet dhe komunikon në kohë reale përmes inteligjencës artificiale. Por bashkë me këtë zhvillim vijnë edhe shqetësime serioze për sigurinë.

Gjatë një testimi të kryer nga studiues, një arush me shall u përfshi në biseda të papërshtatshme dhe ngriti alarme për rreziqet që mund të paraqesin lodrat e pajisura me AI. Chatbot-et në internet mund të përbëjnë rrezik edhe për të rriturit, nga gjenerimi i informacionit të pavërtetë (të ashtuquajturat “hallucinacione”) deri te ndikimi tek personat me probleme të caktuara. Përdorimi i modeleve të mëdha gjuhësore, si GPT-4o i OpenAI-t, në lodrat për fëmijë, ka hapur diskutime të forta mbi masat e nevojshme të sigurisë dhe përgjegjësitë që duhet të mbajnë prodhuesit. Ndërkohë, tregu ndërkombëtar i lodrave me AI po rritet me ritme shumë të larta. Vetëm në Kinë veprojnë rreth 1,500 kompani, sipas MIT Technology Review, dhe shumë prej tyre tashmë po hyjnë në tregun amerikan. Edhe Mattel, kompania që prodhon Barbie, ka shpallur këtë verë një partneritet të ri me OpenAI. Me nisjen e sezonit të blerjeve të fundvitit, ja çfarë duhet të dini për lodrat me inteligjencë artificiale.

Çfarë janë lodrat me AI?

Lodrat moderne me AI nuk ngjajnë me Teddy Ruxpin-in e viteve ’80 që tregonte histori nga kasetat. Këto lodra lidhen me Wi-Fi, përdorin mikrofon për të dëgjuar fëmijët dhe gjenerojnë përgjigje përmes altoparlantëve të integruar.

Disa prej modeleve më të njohura përfshijnë:

• Curio Grok,

• robotët Miko,

• Poe, arushi i tregimeve,

• Robot Mini,

• Loona, roboti shoqërues i KEYi Technology.

Këto lodra mund të flasin, të shpjegojnë, të luajnë role të ndryshme dhe të përshtaten sipas pyetjeve të fëmijëve.

Lexo edhe: Pastrimi i parave / Rriten rastet për hetim, por sekuestrimet e pasurisë bien 82%

Cilat janë rreziqet?

Problemet më të mëdha shfaqen kur lodra i përgjigjet fëmijës në mënyrë të lirë, të pakontrolluar. Një shembull i fundit është arushi Kumma, një produkt i kompanisë së Singaporit, FoloToy, i fuqizuar nga GPT-4o.

Gjatë testimeve, lodra:

• tregonte ku mund të gjendeshin objekte të rrezikshme,

• përfshihej në biseda seksualisht të papërshtatshme.

Këto gjetje u publikuan nga organizata amerikane PIRG. OpenAI ndërhyri duke pezulluar aksesin e FoloToy në modelet e tyre për shkelje të politikave që ndalojnë çdo formë rrezikimi apo seksualizimi të të miturve. Edhe pse kompania deklaroi se i kishte hequr përkohësisht lodrat nga shitja për një audit të brendshëm sigurie, së fundmi njoftoi rikthimin e tyre në treg duke thënë se janë bërë “testime dhe përforcime të filtrave”. Ekspertët theksojnë se lodrat që përdorin modele të plota gjeneruese (pa kufizime të forta) janë më të rrezikuarat për të prodhuar përmbajtje të papërshtatshme. Disa lodra të tjera përdorin sisteme hibride me filtra më të rreptë. Edhe Curio Grok, e cila konsiderohet më e sigurt, mund të tregojë vendndodhje të objekteve të rrezikshme nëse përdoruesi e nxit agresivisht me pyetje.

A kanë këto lodra masa sigurie?

Sipas PIRG, shumë pak lodra me AI janë vërtet të gatshme për përdorim nga fëmijët. Shpesh ato:

• kanë elemente që krijojnë varësi,

• japin përgjigje të paqëndrueshme për tema të ndjeshme,

• fokusohen në shoqërim emocional, jo domosdoshmërisht në edukim.

Megjithatë, disa prodhues kanë integruar masa sigurie, si:

• filtra që shmangin bisedat e papërshtatshme,

• përshtatje të përgjigjeve sipas moshës së fëmijës,

• aplikacione për prindërit me transkriptime të bisedave,

• funksione që lejojnë prindin ta “mbyllë” lodrën për një pushim.

Ekspertët theksojnë se është thelbësore që prindërit të kenë kontroll mbi skenarët e përmbajtjes që gjeneron lodra.

Lodrat me AI janë si ujku i veshur me petk delje, është e vështirë të kuptosh se sa pak privatësi të ka mbetur.

cnn