Marrëveshja midis mbrojtjes së fëmijëve dhe mbrojtjes së privatësisë së përdoruesve nënvizon se si luftimi i abuzimit seksual të fëmijëve në internet është me të vërtetë një “problem i madh”.
Komisioni Evropian propozoi së fundi rregulla për të mbrojtur fëmijët duke u kërkuar kompanive të teknologjisë të skanojnë përmbajtjen në sistemet e tyre për materiale të abuzimit seksual të fëmijëve. Kjo është një përpjekje jashtëzakonisht e gjerë dhe ambicioze që do të kishte implikime të gjera përtej kufijve të Bashkimit Evropian, duke përfshirë SHBA-në. Për fat të keq, rregulloret e propozuara janë, në pjesën më të madhe, teknologjikisht të parealizueshme. Për aq sa mund të funksionojnë, ato kërkojnë thyerjen e kriptimit end-to-end, i cili do të bënte të mundur që kompanitë e teknologjisë – dhe potencialisht qeveria dhe hakerët – të shohin komunikime private.
Lexoni: Rregullat e pashprehura për t’i nxjerrë fëmijët tuaj në internet
Rregulloret, të propozuara më 11 maj 2022, do të imponojnë disa detyrime për kompanitë e teknologjisë që presin përmbajtje dhe ofrojnë shërbime komunikimi, duke përfshirë platformat e mediave sociale, shërbimet e mesazheve dhe aplikacionet e mesazheve direkte, për të zbuluar disa kategori imazhesh dhe tekstesh.
Sipas propozimit, këtyre kompanive do t’u kërkohet të zbulojnë materiale të abuzimit seksual të fëmijëve të identifikuar më parë, materiale të reja të abuzimit seksual të fëmijëve dhe nxitje të fëmijëve për qëllime seksuale. Kompanive do t’u kërkohet të raportojnë përmbajtjen e zbuluar në Qendrën e BE-së, një ent i centralizuar koordinues që do të krijonte rregulloret e propozuara.
Secila prej këtyre kategorive paraqet sfidat e veta, të cilat kombinohen duke e bërë të pamundur zbatimin e rregulloreve të propozuara si paketë. Marrëveshja midis mbrojtjes së fëmijëve dhe mbrojtjes së privatësisë së përdoruesve nënvizon se si luftimi i abuzimit seksual të fëmijëve në internet është një “problem i lig”. Kjo i vë kompanitë e teknologjisë në një pozitë të vështirë: kërkohet të respektojnë rregulloret që i shërbejnë një qëllimi të lavdërueshëm, por pa mjetet për ta bërë këtë.
Gjurmët digjitale të gishtave
Studiuesit kanë ditur se si të zbulojnë materialet e abuzimit seksual të fëmijëve të identifikuar më parë për më shumë se një dekadë. Kjo metodë, e zhvilluar fillimisht nga Microsoft, i cakton një “vlerë hash” – një lloj gjurmë gishti digjital – një imazhi, i cili më pas mund të krahasohet me një bazë të dhënash të materialeve të abuzimit seksual të fëmijëve të identifikuar dhe të hasur më parë. Në SHBA, Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar menaxhon disa baza të dhënash të vlerave të hash-it dhe disa kompani teknologjike mbajnë grupet e tyre hash.
Vlerat e hash-it për imazhet e ngarkuara ose të ndara duke përdorur shërbimet e një kompanie krahasohen me këto baza të dhënash për të zbuluar materialet e abuzimit seksual të fëmijëve të identifikuar më parë. Kjo metodë ka rezultuar jashtëzakonisht e saktë, e besueshme dhe e shpejtë, gjë që është kritike për të bërë çdo zgjidhje teknike të shkallëzueshme.
Problemi është se shumë avokatë të privatësisë e konsiderojnë atë të papajtueshëm me enkriptimin end-to-end, gjë që, e interpretuar në mënyrë strikte, do të thotë se vetëm dërguesi dhe marrësi i synuar mund ta shikojnë përmbajtjen. Për shkak se rregulloret e propozuara të BE-së mandatojnë që kompanitë e teknologjisë të raportojnë çdo material të zbuluar të abuzimit seksual të fëmijëve në Qendrën e BE-së, kjo do të shkelte enkriptimin end-to-end, duke detyruar kështu një shkëmbim ndërmjet zbulimit efektiv të materialit të dëmshëm dhe privatësisë së përdoruesit.
Njohja e materialeve të reja të dëmshme
Në rastin e përmbajtjes së re – domethënë imazheve dhe videove që nuk përfshihen në bazat e të dhënave hash – nuk ka një zgjidhje të tillë teknike të provuar dhe të vërtetë. Inxhinierët më të mirë kanë punuar në këtë çështje, duke ndërtuar dhe trajnuar mjete të AI që mund të marrin vëllime të mëdha të dhënash. Google dhe organizata joqeveritare për sigurinë e fëmijëve Thorn të dyja kanë pasur njëfarë suksesi duke përdorur klasifikuesit e machine learning për të ndihmuar kompanitë të identifikojnë materiale të reja të mundshme të abuzimit seksual të fëmijëve.
Megjithatë, pa të dhëna të verifikuara në mënyrë të pavarur mbi saktësinë e mjeteve, nuk është e mundur të vlerësohet dobia e tyre. Edhe nëse saktësia dhe shpejtësia janë të krahasueshme me teknologjinë e hash-matching, raportimi i detyrueshëm do të thyejë përsëri enkriptimin end-to-end.
Përmbajtja e re përfshin gjithashtu transmetime të drejtpërdrejta, por rregulloret e propozuara duket se anashkalojnë sfidat unike që paraqet kjo teknologji. Teknologjia e transmetimit të drejtpërdrejtë u bë përhap gjatë pandemisë dhe prodhimi i materialit të abuzimit seksual të fëmijëve nga përmbajtja e transmetimit të drejtpërdrejtë është rritur në mënyrë dramatike.
Gjithnjë e më shumë fëmijë po joshen ose detyrohen të transmetojnë live akte seksuale të qarta, të cilat shikuesi mund t’i regjistrojë ose t’i kapë në ekran. Organizatat e sigurisë së fëmijëve kanë vënë në dukje se prodhimi i “materialit të perceptuar të abuzimit seksual të fëmijëve në vetën e parë” – domethënë, materiali i abuzimit seksual të fëmijëve me selfie të dukshme – është rritur me ritme eksponenciale gjatë viteve të fundit. Përveç kësaj, trafikantët mund të transmetojnë drejtpërdrejt abuzimin seksual të fëmijëve për shkelësit që paguajnë për të parë.
Rrethanat që çojnë në regjistrimin dhe transmetimin e drejtpërdrejtë të materialeve të abuzimit seksual të fëmijëve janë shumë të ndryshme, por teknologjia është e njëjtë. Dhe aktualisht nuk ka asnjë zgjidhje teknike që mund të zbulojë prodhimin e materialit të abuzimit seksual të fëmijëve siç ndodh. Kompania e sigurisë teknike SafeToNet po zhvillon një mjet zbulimi në kohë reale, por nuk është gati për t’u lançuar.
Zbulimi i kërkesave
Zbulimi i kategorisë së tretë, “gjuhës së kërkesës”, është gjithashtu në studim. Industria e teknologjisë ka bërë përpjekje të përkushtuara për të identifikuar treguesit e nevojshëm për të identifikuar gjuhën e thirrjes dhe joshjes, por me rezultate të përziera. Microsoft udhëhoqi Project Artemis, i cili çoi në zhvillimin e Anti-Grooming Tool. Mjeti është krijuar për të zbuluar joshjen dhe nxitjen e një fëmije për qëllime seksuale.
Siç nënvizojnë rregulloret e propozuara, megjithatë, saktësia e këtij mjeti është 88%. Në vitin 2020, aplikacioni i njohur i mesazheve WhatsApp dërgoi afërsisht 100 miliardë mesazhe çdo ditë. Nëse mjeti identifikon edhe 0.01% të mesazheve si “pozitive” për gjuhën e thirrjes, recensuesit njerëz do të ngarkohen të lexojnë 10 milionë mesazhe çdo ditë për të identifikuar 12% që janë pozitive false, duke e bërë mjetin thjesht jopraktik.
Ashtu si me të gjitha metodat e mësipërme të zbulimit, edhe kjo do të prishte enkriptimin end-to-end. Por ndërsa të tjerët mund të kufizohen në rishikimin e një vlere hash të një imazhi, ky mjet kërkon qasje në të gjithë tekstin e shkëmbyer.
Lexoni: Apple do të kërkojë në iPhone imazhe të abuzimit seksual të fëmijëve
Është e mundur që Komisioni Evropian është duke marrë një qasje kaq ambicioze me shpresën për të nxitur inovacionin teknik që do të çonte në metoda më të sakta dhe më të besueshme zbulimi.
Megjithatë, pa mjete ekzistuese që mund të përmbushin këto defekte, rregulloret janë joefektive. Kur ka një mandat për të ndërmarrë veprime, por nuk ka rrugë për të ndjekur, unë besoj se shkëputja thjesht do ta lejë industrinë pa udhëzimet dhe drejtimin e qartë që synojnë të ofrojnë këto rregullore.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Kjo punë që e bëjmë me shumë dashuri nuk ka të paguar. Ne jemi platforma e vetme e cila promovon modelin pozitiv të sipërmarrjes së lirë. Përmes kësaj platforme mbështesim edukimin gjatë gjithë jetës si mjet për zhvillimin personal dhe profesional të brezave. Kontributi juaj do të na ndihmojë në vazhdimin e këtij misioni në gjithë trevat shqipfolëse.
Mund të kontribuoni KETU. Falemnderit.
