Kur AI jep këshilla të rrezikshme për shëndetin mendor

Sot është bërë shumë e thjeshtë që inteligjenca artificiale të përdoret në mënyrë të gabuar për të dhënë këshilla të dëmshme për shëndetin mendor. Kjo është veçanërisht shqetësuese, pasi shumë njerëz që kërkojnë ndihmë te AI nuk e kuptojnë se sistemi mund të manipulohet dhe të japë udhëzime që i vënë në rrezik. Prandaj, është e rëndësishme të jemi të vetëdijshëm për këtë problem dhe të ndërmerren masa që ta parandalojnë apo ta zbulojnë para se të shkaktojë pasoja.

Përdorimi i inteligjencës artificiale gjenerative është rritur ndjeshëm, duke përfshirë edhe fushën e shëndetit mendor. Shumë aplikacione ofrojnë këshilla apo biseda mbështetëse, duke imituar një lloj terapie. Kjo ka avantazhe të dukshme: është falas ose me kosto të ulët, është e aksesueshme në çdo kohë dhe arrin tek një numër i madh njerëzish. Megjithatë, ka edhe rreziqe serioze. AI ndonjëherë jep përgjigje të gabuara, të ashtuquajturat “halucinacione”, të cilat duken bindëse por nuk janë të sakta. Për më tepër, sistemi mund të manipulohet me instruksione të veçanta që e shtyjnë të japë informacione të dëmshme.

Lexo edhe: Kur temperaturat ngjiten, humori bie. Shkenca zbulon lidhjen mes vapës dhe nervozizmit

Shumë platforma u lejojnë përdoruesve të vendosin instruksione të personalizuara për të përshtatur mënyrën se si AI përgjigjet. Në parim kjo është e dobishme, por hap edhe rrugën për abuzime. Një palë e tretë mund të ndryshojë këto cilësime dhe përdoruesi të mos e kuptojë. Në rastin e shëndetit mendor, kjo do të thotë që AI mund të japë këshilla që duken të ndihmojnë, por në të vërtetë janë të rrezikshme. Studime të fundit kanë treguar se shumica e modeleve gjenerative mund të shtyhen të prodhojnë dezinformim shëndetësor kur u jepen instruksione keqdashëse. Shumë njerëz i besojnë AI-së sepse shpesh duket e saktë dhe “e ditur”. Një person që përballet me vështirësi mendore është edhe më i cenueshëm për të marrë këshillat e gabuara si të vërteta. Në këtë gjendje, aftësia për të gjykuar bie dhe rreziku për të ndjekur udhëzime të dëmshme rritet.

Ekzistojnë dy zgjidhje kryesore që mund të ndihmojnë:

1. Kufizimi i instruksioneve të personalizuara, duke parandaluar futjen e udhëzimeve që mund të çojnë në këshilla të rrezikshme.

2. Kontrolli i dyfishtë i përgjigjeve, këshillat e dhëna nga një AI mund të kalohen automatikisht në një sistem tjetër për verifikim, duke zbuluar më shpejt informacionin e pasaktë.

Këto masa nuk janë perfekte, por ofrojnë një mbrojtje shtesë. Nuk mund të presim që çdo përdorues të dallojë vetë këshillat e dëmshme. Pikërisht ata që kërkojnë ndihmë janë më të pambrojtur. Për këtë arsye, kompanitë që zhvillojnë AI duhet të marrin përgjegjësi dhe të vendosin standarde më të forta sigurie.  Inteligjenca artificiale nuk duhet të bëhet burim i këshillave të rrezikshme për shëndetin mendor. Nevojiten rregulla dhe mekanizma mbrojtës për të siguruar që përdoruesit të mos bien viktima të manipulimit dhe dezinformimit.

forbes