Kina do të ashpërsojë rregullat për chatbot-ët AI lidhur me vetëvrasjen dhe lojërat e fatit

Kina planifikon të kufizojë chatbot-ët e bazuar në inteligjencën artificiale që ndikojnë në emocionet njerëzore në mënyra që mund të çojnë drejt vetëdëmtimit apo vetëvrasjes, sipas një drafti rregullash.

Rregulloret e propozuara nga Administrata e Hapësirës Kibernetike të Kinës synojnë atë që autoritetet e quajnë “shërbime AI me ndërveprim njerëzor”, sipas një përkthimi të dokumentit nga CNBC. Periudha për konsultim publik do të zgjasë deri më 25 janar.

Masat e reja do të zbatohen për produktet apo shërbimet e inteligjencës artificiale që u ofrohen qytetarëve në Kinë dhe që simulojnë personalitetin njerëzor, duke krijuar lidhje emocionale përmes tekstit, imazheve, audios apo videos.

Sipas Winston Ma, profesor i asociuar në Fakultetin e Drejtësisë në Universitetin e Nju Jorkut, këto rregulla përfaqësojnë përpjekjen e parë në botë për të rregulluar AI-në me karakteristika njerëzore apo antropomorfe. Ai thekson se, ndryshe nga rregulloret e vitit 2023 për AI gjeneruese, versioni i ri shënon një kalim “nga siguria e përmbajtjes drejt sigurisë emocionale”.

Drafti parashikon që:

• Chatbot-ët AI nuk duhet të gjenerojnë përmbajtje që nxit vetëvrasjen apo vetëdëmtimin, as të përdorin dhunë verbale apo manipulim emocional që dëmton shëndetin mendor të përdoruesve.
• Nëse një përdorues shpreh drejtpërdrejt qëllime për vetëvrasje, kompanitë teknologjike duhet të ndërhyjnë me një operator njerëzor dhe të kontaktojnë menjëherë kujdestarin ose një person të përcaktuar.
• Chatbot-ët nuk duhet të prodhojnë përmbajtje që lidhet me lojërat e fatit, dhunën apo materialet e pahijshme.
• Të miturit duhet të kenë pëlqimin e kujdestarëve për të përdorur AI për shoqëri emocionale, si dhe kufizime kohore në përdorim.
• Platformat duhet të jenë në gjendje të identifikojnë nëse një përdorues është i mitur, edhe kur mosha nuk deklarohet, dhe në rast dyshimi të zbatojnë automatikisht rregullat për të mitur, duke lejuar një proces ankimi.

Gjithashtu, drafti parashikon që përdoruesit të marrin njoftime pas dy orësh ndërveprimi të pandërprerë me AI-në, si dhe kërkon vlerësime të posaçme sigurie për chatbot-ët me mbi 1 milion përdorues të regjistruar ose mbi 100 mijë përdorues aktivë mujorë.

Dokumenti, nga ana tjetër, inkurajon përdorimin e AI-së me tipare njerëzore për “përhapjen kulturore dhe shoqërinë për të moshuarit”.

Lexo edhe: Gjërat e çuditshme që i ndodhin trupit tuaj para se të keni një krizë emocionale

IPO-t e chatbot-ëve AI në Kinë

Propozimi vjen pak kohë pasi dy nga startup-et kryesore kineze të chatbot-ëve AI, Z.ai dhe Minimax, depozituan aplikimet për dalje në bursë në Hong Kong.

Minimax njihet ndërkombëtarisht për aplikacionin Talkie AI, i cili u mundëson përdoruesve të bisedojnë me personazhe virtuale. Ky aplikacion dhe versioni i tij për tregun kinez, Xingye, përbënin më shumë se një të tretën e të ardhurave të kompanisë në tre tremujorët e parë të vitit, me mbi 20 milionë përdorues aktivë mujorë.

Z.ai, i njohur edhe si Zhipu, aplikoi për IPO me emrin “Knowledge Atlas Technology”. Kompania nuk publikoi shifra për përdoruesit aktivë, por deklaroi se teknologjia e saj është integruar në rreth 80 milionë pajisje, përfshirë telefona inteligjentë, kompjuterë dhe automjete.

Asnjë nga kompanitë nuk iu përgjigj kërkesës së CNBC për koment mbi ndikimin që mund të kenë rregullat e reja në planet e tyre për IPO.

Ndikimi i drejtpërdrejtë i AI-së në sjelljen njerëzore ka qenë gjithnjë e më shumë në qendër të vëmendjes gjatë këtij viti. Në shtator, drejtori ekzekutiv i OpenAI, Sam Altman, deklaroi se një nga sfidat më të vështira për kompaninë është mënyra se si chatbot-i reagon ndaj bisedave që lidhen me vetëvrasjen.

Ndërkohë, gjithnjë e më shumë njerëz po i drejtohen AI-së për marrëdhënie emocionale. Së fundmi, një grua në Japoni u martua simbolikisht me të dashurin e saj AI.

Sipas renditjes së SimilarWeb për muajin nëntor, platformat Character.ai dhe Polybuzz.ai renditen mes 15 chatbot-ëve dhe mjeteve AI më të përdorura në botë.

Masat e reja vendase janë pjesë e përpjekjeve më të gjera të Kinës gjatë vitit të fundit për të ndikuar në formësimin e rregullave globale për qeverisjen e inteligjencës artificiale.

cnbc