Gjatë një testimi të sigurisë, një chatbot gjenerativ i përdorur nga një bankë për të ndihmuar klientët me aplikimet për kredi u manipulua dhe u detyrua të zbulonte informacione të ndjeshme financiare. Testuesit anashkaluan masat e sigurisë dhe arritën të nxirrnin një listë të plotë të kredive të miratuara, duke përfshirë emrat e klientëve. Ky rast tregon një problem thelbësor: inteligjenca artificiale (IA) gjenerative mund të transformojë industri të tëra, por në mungesë të protokolleve të forta të sigurisë, ajo mund të sjellë pasoja katastrofike. Modelet tradicionale të sigurisë nuk janë më të mjaftueshme. Teknologji transformuese si IA gjenerative kërkojnë një qasje të re dhe gjithëpërfshirëse ndaj sigurisë kibernetike.
Aviacioni ofron një model të vlefshëm. Ashtu si avionët supersonikë, IA gjenerative është një teknologji me potencial të jashtëzakonshëm. Por pa operatorë të trajnuar, sisteme të mirëndërtuara dhe masa të forta mbrojtëse, rreziku i dështimeve të rënda është shumë i madh për t’u injoruar. Falë protokolleve rigoroze të sigurisë, udhëtimi ajror është bërë një nga mënyrat më të sigurta të transportit. Në të njëjtën mënyrë, e ardhmja e IA-së varet nga adresimi i rreziqeve të sigurisë. Një studim i fundit nga Boston Consulting Group (BCG) tregoi se tre të katërtat e drejtuesve të biznesit e shohin sigurinë kibernetike si një pengesë kryesore për shkallëzimin e IA-së. Ndryshe nga softuerët tradicionalë, IA gjenerative bazohet në probabilitete, duke prodhuar rezultate të paparashikueshme. Modelet e mëdha të gjuhës (LLM) sjellin sjellje të paqëndrueshme, duke krijuar pika të verbëra të sigurisë kibernetike. Për më tepër, varësia e tyre nga hyrjet në gjuhën natyrore, mësimi adaptiv dhe integrimet komplekse me sisteme të tjera i bën ato veçanërisht të cenueshme. Ashtu si në aviacion, ku siguria është e integruar në çdo aspekt të operacioneve, siguria kibernetike duhet të jetë pjesë përbërëse e IA-së, duke filluar nga arkitektura e saj, menaxhimi i të dhënave dhe mbikëqyrja njerëzore. Në mungesë të një themeli të tillë, e ardhmja e IA-së mbetet e pasigurt.
Lexo edhe:Si mund të përmbushen pritshmëritë e një udhëtari të ndërgjegjshëm për mjedisin në aviacion?
Pikat e dobëta të IA-së dhe rreziqet e sigurisë
Një nga dobësitë më të mëdha të sistemeve të IA-së është sulmi përmes manipulimit të komandave (prompt injection attacks), ku sulmuesit ndryshojnë sjelljen e modelit për të nxjerrë informacione të ndjeshme ose për të manipuluar vendimmarrjen e tij. Testi i chatbot-it bankar tregoi një rrezik edhe më të madh: eskalimi i privilegjeve. Testuesit imituan një administrator, duke miratuar kredi të paautorizuara dhe duke modifikuar të dhëna në sistemin e brendshëm. Edhe asistentët e IA-së në shëndetësi janë prekur nga probleme të ngjashme. Hulumtuesit e sigurisë kanë arritur të nxjerrin të dhëna të ndjeshme të pacientëve, duke ndryshuar mënyrën e formulimit të pyetjeve. Në vend që të kërkonin drejtpërdrejt historikun mjekësor, ata bënë pyetje të ngjashme me ato të një mjeku, duke shfrytëzuar një tjetër dobësi: IA shpesh prioritizon logjikën gjuhësore mbi kontrollet e aksesit. Këto rreziqe nuk kufizohen vetëm në sektorin bankar dhe atë të shëndetësisë. Shumë aplikacione të IA-së përdorin sisteme inteligjente (agentic systems), të cilat marrin të dhëna në kohë reale për të marrë vendime në mënyrë autonome, duke krijuar hapësira për sulme. Për shembull, në një vlerësim të sigurisë për një chatbot të shërbimit ndaj klientit, sulmuesit shfrytëzuan një dobësi në API, duke manipuluar modelin për të zbuluar kodi të brendshëm zbritjeje dhe detaje të inventarit. Për më tepër, IA mund të manipulohet me ‘helmimin e kontekstit’ (context poisoning). Duke e ekspozuar vazhdimisht një model ndaj të dhënave të rreme, sulmuesit mund ta drejtojnë atë drejt rekomandimeve të rrezikshme. Në një eksperiment, një chatbot i një spa-je u mësua që përbërësit e dëmshëm ishin të dobishëm, dhe përfundimisht filloi t’i sugjeronte klientëve produkte të dëmshme për lëkurën.
Si të ndërtohet një IA e sigurt
Për të shmangur rreziqet e mësipërme, organizatat duhet të zbatojnë trajnime kundërshtuese (adversarial training), ku modelet e IA-së ekspozohen vazhdimisht ndaj hyrjeve mashtruese për të forcuar qëndrueshmërinë e tyre.
Zbulimi i anomalive në kohë reale – qoftë përmes sistemeve të automatizuara apo monitorimit manual – mund të identifikojë sjellje të pazakonta të IA-së, duke parandaluar pasojat e të dhënave të manipuluara. Ashtu si avionët mbështeten në sisteme rezervë të pavarura, edhe siguria e IA-së duhet të mbështetet në shtresa të shumëfishta mbrojtjeje, duke përfshirë:
- Zbulimin e anomalive në kohë reale, për të sinjalizuar aktivitetet e pazakonta.
- Validimin e dyfishtë të aksesit, për të parandaluar ndërveprimet e paautorizuara.
- Mekanizmat e rikthimit në kohë reale, për të zhbërë ndryshimet e dëmshme.
Ndërsa analistët parashikojnë se shpenzimet globale për IA-në do të kalojnë 631 miliardë dollarë deri në vitin 2028, shumë nga këto investime mund të mos japin rezultate domethënëse nëse nuk adresohen sfidat thelbësore të sigurisë kibernetike.
Siguria e IA-së si prioritet, jo si opsion
Siguria e IA-së nuk mund të mbetet një element dytësor – ajo duhet të integrohet thellësisht në arkitekturën e sistemeve, menaxhimin e të dhënave dhe mbikëqyrjen njerëzore. Një kornizë efektive sigurie duhet të jetë e lëngët, adaptive, elastike dhe e integruar me sistemet ekzistuese. Mbi të gjitha, siguria kërkon një kulturë vigjilence. Sipas një raporti të Verizon për vitin 2024, 68% e të gjitha sulmeve kibernetike përfshinin një element njerëzor, siç janë sulmet përmes phishing ose inxhinierisë sociale. Trajnimet e rregullta dhe mekanizmat transparentë të raportimit mund të sjellin një ndryshim të madh. Ashtu si industria e aviacionit fitoi besimin e publikut përmes masave të rrepta të sigurisë, edhe industria e IA-së duhet të sigurojë mbrojtje kundër manipulimeve, sulmeve dhe gabimeve përpara se të shkaktojnë dëme në botën reale. Vetëm kompanitë që e ndërtojnë sigurinë në çdo shtresë të strategjisë së tyre të IA-së do të mbijetojnë dhe do të lulëzojnë.
Copyright: Project Syndicate, 2025.
www.project-syndicate.org
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Kjo punë që e bëjmë me shumë dashuri nuk ka të paguar. Ne jemi platforma e vetme e cila promovon modelin pozitiv të sipërmarrjes së lirë. Përmes kësaj platforme mbështesim edukimin gjatë gjithë jetës si mjet për zhvillimin personal dhe profesional të brezave. Kontributi juaj do të na ndihmojë në vazhdimin e këtij misioni në gjithë trevat shqipfolëse.
Mund të kontribuoni KETU. Falemnderit.
