Deepfakes audio, ose audio e gjeneruar nga AI që imiton dikë, nuk janë të padëgjuara, dhe janë arsyeja që OpenAI, kompania e cila solli chatbots AI në rrjedhën kryesore, po frenon publikimin e ofertës së saj më të fundit.
OpenAI ka njoftuar se po zgjedh të shikojë paraprakisht, por jo gjerësisht, gjeneratorin e zërit realist “text-to-speech”, Voice Engine, për shkak të potencialit për keqpërdorim të zërit.
Në një postim në blog, kompania përshkroi aftësinë e Voice Engine për të marrë një mostër 15 sekondash të zërit të dikujt për ta imituar atë emocionalisht dhe realisht, siç është dhënë në hyrje.
“Nëse keni konfigurimin e duhur audio, është në thelb një zë i kalibrit njerëzor. Është një cilësi teknike mjaft mbresëlënëse”, është shprehur Jeff Harris, një drejtues produkti në OpenAI.
OpenAI ka testuar privatisht Voice Engine që nga zhvillimi i tij mbi një vit më parë dhe ka identifikuar se mund të përdoret për mirë në një postim të bërë në blog. Voice Engine mbështet njerëzit që nuk janë verbalë duke dhënë zëra të ndryshëm në shumë gjuhë. Livox, një aplikacion alternativ komunikimi, tashmë ka filluar të përdorë teknologjinë për këtë qëllim, sipas OpenAI. Voice Engine mund të përkthejë gjithashtu video dhe podkaste në gjuhë të tjera dhe të ofrojë ndihmë leximi për fëmijët dhe jo-lexuesit me përmbajtje audio.
OpenAI vuri në dukje politikat e saj të sigurisë së AI dhe angazhimeve vullnetare kur deklaroi arsyetimin e tij për shikimin paraprak, dhe jo lëshimin e Voice Engine për publikun. Kompania ka thënë se vështrimi paraprak kishte për qëllim të shfaqte aftësitë e Voice Engine duke theksuar gjithashtu nevojën për të forcuar qëndrueshmërinë shoqërore ndaj sfidave të sjella nga modelet gjeneruese gjithnjë e më bindëse.
Zërat sintetikë kanë tërhequr interesin në botën e startup-eve, me kompaninë e klonimit të zërit të AI, ElevenLabs, e vlerësuar në 1.1 miliardë dollarë në janar, pas lançimit në beta vetëm rreth një vit më parë. Teknologjia është vënë nën kritika gjithashtu për fuqinë e re që u jep kriminelëve kibernetikë, të cilët mund ta përdorin atë për të imituar njerëzit.
OpenAI ka parashikuar gjithashtu një gjenerator video të AI të quajtur Sora, muajin e kaluar, që krijon video realiste nga kërkesat.
Që nga viti 2015 nxisim shpirtin sipërmarrës, inovacionin dhe rritjen personale duke ndikuar në zhvillimin e një mjedisi motivues dhe pozitiv tek lexuesit tanë. Mbështetja juaj na ndihmon ta vazhdojmë këtë mision.
Na Suporto