Snapchat po lançon mjete të reja, duke përfshirë një filtër moshe dhe njohuri për prindërit, për të përmirësuar chatbotin e tij AI.
Disa ditë pasi Snapchat lançoi chatbot-in e tij me GPT për abonentët e Snapchat+, një raport i Washington Post theksoi se roboti po përgjigjej në një mënyrë të pasigurt dhe të papërshtatshme.
Snap tha se mësoi se njerëzit po përpiqeshin të “mashtronin chatbotin për të dhënë përgjigje që nuk përputhen me udhëzimet tona” dhe mjetet e reja kanë për qëllim të mbajnë nën kontroll përgjigjet e AI.
Filtri i moshës së re i tregon chatbot-it datat e lindjes së përdoruesve të tij dhe siguron që ai të përgjigjet sipas moshës së tyre, tha kompania.
Në javët e ardhshme, Snap gjithashtu planifikon të sigurojë më shumë njohuri për prindërit ose kujdestarët rreth ndërveprimeve të fëmijëve me chatbot në Qendrën e tij Familjare, të lançuar gushtin e kaluar. Funksioni i ri do t’u tregojë prindërve ose kujdestarëve se si fëmijët e tyre po komunikojnë me chatbot dhe shpeshtësinë e këtyre ndërveprimeve. Si kujdestari ashtu edhe adoleshentët duhet të zgjedhin përdorimin e Family Center për të përdorur këto veçori të kontrollit prindëror.
Në një postim në blog, Snap shpjegoi se chatbot “My AI” nuk është një “mik i vërtetë” dhe shpjegoi se ai mbështetet në historikun e bisedave për të përmirësuar përgjigjet e tij.
Lexo: ChatGPT do të jetë i disponueshëm për kompanitë që duan ta integrojnë në aplikacionin e tyre
Kompania tha se roboti dha vetëm 0.01% të përgjigjeve në gjuhën “jokonformuese”. Snap numëron çdo përgjigje që përfshin referenca ndaj dhunës, përdorimit të paligjshëm të drogës, abuzimit seksual të fëmijëve, bullizmit, gjuhës së urrejtjes, deklaratave nënçmuese ose të njëanshme, racizmit, mizogjinisë ose margjinalizimit të grupeve të nënpërfaqësuara si “jokonformuese”.
Kompania tha se në shumicën e rasteve, përgjigjet e papërshtatshme ishin rezultat i papagallëkut të botit çfarëdo që thoshin përdoruesit. Ai tha gjithashtu se firma do të bllokojë përkohësisht aksesin e robotëve AI për përdoruesit që keqpërdorin shërbimin.
“Ne do të vazhdojmë t’i përdorim këto mësime për të përmirësuar AI-n tonw. Këto të dhëna do të na ndihmojnë gjithashtu të vendosim një sistem të ri për të kufizuar keqpërdorimin e AI-së. Ne po shtojmë teknologjinë e moderimit të OpenAI në grupin tonë të mjeteve ekzistuese, e cila do të na lejojë të vlerësojmë ashpërsinë e përmbajtjes të dëmshme dhe të kufizojmë përkohësisht aksesin e Snapchatters në My AI nëse ata keqpërdorin shërbimin, “tha Snap.
Snap është ende goxha pozitive për mjetet gjeneruese të AI. Përveç chatbot-it, kompania prezantoi një gjenerator sfondi të fuqizuar me AI që funksionon përmes kërkesave për abonentët e Snapchat+ disa javë më parë.
Duke pasur parasysh përhapjen e mjeteve të fuqizuara nga AI, shumë njerëz janë të shqetësuar për sigurinë dhe privatësinë e tyre. Javën e kaluar, një grup etike i quajtur Qendra për Inteligjencën Artificiale dhe Politikën Dixhitale i shkroi Komisionit Federal të Tregtisë së SHBA-së, duke i kërkuar agjencisë që të ndalonte prezantimin e modelit GPT-4 të OpenAI, duke thënë se teknologjia ishte “e njëanshme, mashtruese dhe një rrezik për privatësinë dhe sigurinë publike.”
Muajin e kaluar, senatori amerikan Michael Bennet (Demokrati i Kolorados) gjithashtu i shkroi një letër OpenAI, Meta, Google, Microsoft dhe Snap duke shprehur shqetësime në lidhje me mjetet gjeneruese të AI të përdorura nga adoleshentët.
Është e qartë se këto modele të AI janë të ndjeshme ndaj hyrjeve të dëmshme dhe mund të manipulohen për të nxjerrë përgjigje të papërshtatshme. Ndërsa kompanitë e teknologjisë mund të dëshirojnë t’i nxjerrin shpejt këto mjete, atyre do t’u duhet të sigurohen që të ketë mjete të mjaftueshëm mbrojtës për të parandaluar keqpërdorimin e tyre.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Kjo punë që e bëjmë me shumë dashuri nuk ka të paguar. Ne jemi platforma e vetme e cila promovon modelin pozitiv të sipërmarrjes së lirë. Përmes kësaj platforme mbështesim edukimin gjatë gjithë jetës si mjet për zhvillimin personal dhe profesional të brezave. Kontributi juaj do të na ndihmojë në vazhdimin e këtij misioni në gjithë trevat shqipfolëse.
Mund të kontribuoni KETU. Falemnderit.
