Kur teknologjia bëhet përgjegjësi! Rruga e Endri Matajt drejt suksesit në New York

Nga Fatima Gorezi – Inteligjenca artificiale shfaqet si e ardhmja premtuese për një botë më të mirë, por kjo e ardhme nuk mund të realizohet pa integrimin e përgjegjësisë sociale në përdorimin e teknologjisë.Si Global Head of Product në EY, me një skuadër ndërkombëtare dhe produkte që variojnë nga AI te menaxhimi i pasurisë, Endri Mataj po ndërton zgjidhje që jo vetëm nxitin efikasitetin, por vendosin kufijtë e rinj të etikës digjitale. Udhëheqja e tij, në krye të një ekipi global me mbi 100 profesionistë është një përzierje e vizionit teknologjik me përgjegjësinë shoqërore, nga AI në përputhshmëri financiare deri te transformimi i tregjeve lokale. BusinessMag bisedoi me të mbi integrimin e teknologjive të avancuara, lidershipin dhe sfidat në kohën e inteligjencës artificiale.

Ju drejtoni një ekip global me mbi 100 profesionistë dhe menaxhoni produkte komplekse në fusha si AML dhe Wealth Management. Cili ka qenë vendimi më i vështirë strategjik që keni marrë në këtë rol dhe si e matni suksesin në një shkallë kaq të madhe?

Një nga vendimet më të vështira strategjike ka qenë kur vendosëm integrimin e inteligjencës artificiale (GenAI) dhe Agjentët AI (Agentic AI) në produktet tona. Ishte një kthesë që kërkonte balancim të kujdesshëm mes inovacionit dhe ruajtjes së standardeve të larta të besueshmërisë dhe përputhshmërisë me rregulloret globale. Sfida nuk ishte vetëm teknologjike, por edhe organizative. Nga përgatitja e ekipit për të përgatitur modelet AI të jepnin rezultatet e duhura nëpërmjet promt engineering, integrimi i platformës dhe përshtatja e eksperiencës së përdoruesit në frontend, tek ndërtimi i besimit te klientët se këto zgjidhje janë të sigurta dhe të kontrollueshme. Suksesin e matëm në disa dimensione si p.sh., rritja e efikasitetit operativ përmes automatizimit të detyrave komplekse, reduktimi i kohës për analizimin e rasteve të AML dhe rritja e kënaqësisë së përdoruesve fundorë që bashkëpunojnë me këto agjentë digjitalë në mënyrë intuitive. Vendimi për të ecur përpara me GenAI nuk ishte i lehtë, por ka transformuar mënyrën si zhvillojmë produkte dhe si i ndihmojmë klientët të veprojnë më shpejt dhe me më shumë siguri.

Me eksperiencën tuaj në integrimin e teknologjive të avancuara si AI dhe ML në sistemet e përputhshmërisë financiare, cilat janë tre sfidat kryesore që duhet të kapërcehen për të garantuar besueshmërinë dhe efektivitetin e këtyre zgjidhjeve?
Me zhvillimin e Generative AI, sidomos në aplikime të avancuara si agjentët AI dhe asistenca në kohë reale për analizën e përputhshmërisë (compliance), sfidat kanë kaluar nga thjesht ndërtimi i modeleve të saktë, në menaxhimin e përdorimit të tyre në mënyrë të kontrolluar, të interpretuar dhe të sigurt. Tre sfidat kryesore që hasim janë:

1. Hallkat e kontrollit dhe shpjegueshmeria e GenAI (AI guardrails & explainability):

Ndryshe nga modelet tradicionale të klasifikimit apo detektimit, GenAI gjeneron tekst dhe përmbajtje që mund të ndikojë drejtpërdrejt procesin e vendimmarrjes, për shembull, një analizë risku ose përmbledhje e një rasti të dyshimtë. Kjo kërkon që zgjidhjet të ndërtohen me vendojsen e disa masave “guardrails” të forta dhe kufizime të qarta për çfarë mund dhe nuk mund të gjenerohet, si dhe auditim i plotë i çdo gjenerimi. Gjithashtu, çdo rekomandim i GenAI duhet të shoqërohet me transparencë mbi burimin dhe cilësine e të dhënave dhe arsyetimin logjik që e mbështet atë.

2. Ruajtja e përputhshmërisë në kontekste të ndjeshme ligjore dhe gjeografike:

GenAI shpesh trajnohet mbi të dhëna të përgjithshme, por në pajtueshmërinë financiare, çdo përgjigje duhet të jetë e saktë në kontekst ligjor, gjeografik dhe institucional. Një gjenerim që mund të jetë i vlefshëm në SHBA, mund të jetë i gabuar ose madje në kundërshtim me ligjin në BE apo në Azi. Kjo sfidë kërkon që modelet të konfigurohen me njohuri të specializuara ligjore dhe të jenë të vetëdijshme për kontekstin (“context-aware”), si dhe të mbështeten nga logjikë e fortë për personalizim sipas klientit dhe vendit.

3. Rreziku i “halucinacioneve” dhe etika e përmbajtjes së gjeneruar:

Një nga problemet unike të GenAI është gjenerimi i informacionit të pasaktë (hallucination), që mund të çojë në vendime të gabuara apo edhe në shkelje të rregulloreve. Për këtë arsye, ne ndërtojmë zgjidhje me verifikim të integruar të fakteve, validim njerëzor kur nevojitet (“human-in-the-loop”), dhe monitorim të vazhdueshëm të performancës së modelit në mjedise reale. Për më tepër, sigurojmë që përmbajtja të mos përmbajë asnjë formë diskriminimi, paragjykimi apo rekomandimi të papërshtatshëm në kontekst financiar dhe etik.

Në tërësi, integrimi i GenAI në përputhshmëri kërkon shumë më tepër sesa performancë teknike, kërkon një arkitekturë të ndërtuar për siguri, transparencë, dhe përgjegjësi. Vetëm kështu mund të ndërtojmë zgjidhje që janë të fuqishme dhe të besueshme për institucionet më të mëdha financiare në botë.