51% e CEO-ve po punësojnë për role gjeneruese të lidhura me AI që nuk ekzistonin deri këtë vit. Megjithatë, vetëm 9% e kompanive thonë se janë të përgatitura për të menaxhuar kërcënimet, duke përfshirë kërcënimet që kanë të bëjnë me privatësinë dhe pronësinë intelektuale, që rrjedhin nga përdorimi i tyre i AI gjeneruese, sipas një sondazhi të kryer nga Riskonnect.
Platforma e WitnessAI përgjon aktivitetin midis punonjësve dhe modeleve të personalizuara gjeneruese të AI që punëdhënësi i tyre po përdor, jo modele të mbyllura pas një API si GPT-4 e OpenAI, por më shumë sipas linjave të Llama 3 të Meta dhe zbaton politika dhe masa mbrojtëse për zbutjen e rrezikut.
“Një nga premtimet e inteligjencës artificiale të ndërmarrjes është që ajo të zhbllokojë dhe të demokratizojë të dhënat e ndërmarrjes për punonjësit në mënyrë që ata të mund të bëjnë punën e tyre më mirë. Por, zhbllokimi shumë i mirë i të gjitha atyre të dhënave të ndjeshme , ose rrjedhja e tyre apo vjedhja, është një problem.”
WitnessAI shet akses në disa module, secili i fokusuar në trajtimin e një forme të ndryshme të rrezikut gjenerues të AI. Njëra i lejon organizatat të zbatojnë rregulla për të parandaluar stafin nga ekipe të veçanta që të përdorin mjete gjeneruese të fuqizuara nga AI në mënyra që nuk supozohet t’i bëjnë (p.sh., të pyesin për raportet e fitimeve para publikimit ose të ngjitin bazat e brendshme të kodeve). Një tjetër redakton informacionin e pronarit dhe të ndjeshëm nga kërkesat e dërguara modeleve dhe zbaton teknika për të mbrojtur modelet kundër sulmeve që mund t’i detyrojnë ata të dalin jashtë skenarit.
“Ne mendojmë se mënyra më e mirë për të ndihmuar ndërmarrjet është ta përcaktojmë problemin në një mënyrë që ka kuptim, për shembull, adoptimi i sigurt i AI, dhe më pas të shesim një zgjidhje që adreson problemin. CISO dëshiron të mbrojë biznesin dhe WitnessAI i ndihmon ata ta bëjnë këtë duke siguruar mbrojtjen e të dhënave, duke parandaluar injektimin e menjëhershëm dhe duke zbatuar politika të bazuara në identitet. Zyrtari kryesor i privatësisë dëshiron të sigurojë që rregullat ekzistuese, dhe ato të ardhura, po ndiqen dhe ne u japim atyre shikueshmëri dhe një mënyrë për të raportuar mbi aktivitetin dhe rrezikun”, tha Caccia.
Por ka një gjë të ndërlikuar në lidhje me WitnessAI nga këndvështrimi i privatësisë: të gjitha të dhënat kalojnë përmes platformës së saj përpara se të arrijnë një model. Kompania është transparente për këtë, madje ofron mjete për të monitoruar se cilat modele aksesojnë punonjësit, pyetjet që u bëjnë modeleve dhe përgjigjet që marrin. Por mund të krijojë rreziqet e veta të privatësisë. Në përgjigje të pyetjeve në lidhje me politikën e privatësisë së WitnessAI, Caccia tha se platforma është “e izoluar” dhe e koduar për të parandaluar përhapjen e sekreteve të klientëve.
“Ne kemi ndërtuar një platformë me latencë milisekonda me ndarje rregullatore të ndërtuara menjëherë, një dizajn unik, i izoluar për të mbrojtur aktivitetin e AI të ndërmarrjes në një mënyrë që është thelbësisht e ndryshme nga shërbimet e zakonshme të softuerit si shërbim me shumë qiramarrës. Ne krijojmë një shembull të veçantë të platformës sonë për çdo klient, të koduar me çelësat e tyre. Të dhënat e aktivitetit të tyre të inteligjencës artificiale janë të izoluara për ta, ne nuk mund ta shohim atë”, shtoi ai.
Ndoshta kjo do të lehtësojë frikën e klientëve. Sa për punëtorët e shqetësuar për potencialin e mbikqyrjes së platformës së WitnessAI, është një thirrje më e ashpër.
Sondazhet tregojnë se njerëzit në përgjithësi nuk e vlerësojnë monitorimin e aktivitetit të tyre në vendin e punës, pavarësisht nga arsyeja, dhe besojnë se kjo ndikon negativisht në moralin e kompanisë. Gati një e treta e të anketuarve në një sondazh të Forbes thanë se mund të konsiderojnë të lënë punën e tyre nëse punëdhënësi i tyre monitoron aktivitetin dhe komunikimin e tyre në internet.
Plani është që të vendoset kësti i financimit drejt rritjes së ekipit prej 18 personash të WitnessAI në 40 deri në fund të vitit. Rritja sigurisht që do të jetë çelësi për të mposhtur rivalët e WitnessAI në hapësirën e sapolindur për pajtueshmërinë me modelin dhe zgjidhjet e qeverisjes, jo vetëm nga gjigantët e teknologjisë si AWS, Google dhe Salesforce, por edhe nga startup-et si CalypsoAI.
“Ne kemi ndërtuar planin tonë për të hyrë në vitin 2026 edhe nëse nuk do të kishim fare shitje, por tashmë kemi gati 20 herë më shumë se gazsjellësi i nevojshëm për të arritur objektivat tona të shitjeve këtë vit. Ky është raundi ynë fillestar i financimit dhe lançimi publik, por aktivizimi dhe përdorimi i sigurt i AI është një fushë e re dhe të gjitha veçoritë tona po zhvillohen me këtë treg të ri”, tha Caccia.
techcrunch.com
