YouTube offre a politici e giornalisti uno strumento di rilevamento dei deepfake AI

In una mossa significativa, considerando gli eventi globali evidenti e con le elezioni di metà mandato alle porte, YouTube sta ampliando il suo strumento di rilevamento delle immagini per includere leader politici e civici, così come giornalisti, nel tentativo di contrastare i contenuti generati dall’AI che potrebbero cercare di disinformare o ingannare gli utenti della piattaforma.

I politici e i giornalisti che parteciperanno (dopo che le loro identità saranno state verificate da YouTube) potranno rivedere i video che sono stati determinati come contenenti la loro immagine e richiedere la rimozione se violano le politiche sulla privacy di YouTube. L’AI generativa, ovviamente, ha reso facilissimo falsificare l’immagine o la voce di qualcun altro.

YouTube ha annunciato per la prima volta questo strumento a dicembre 2024, inizialmente rendendolo disponibile per attori e atleti di A-list. L’anno scorso l’ha esteso ai principali creator, e ora l’azienda afferma che circa 4 milioni di creatori del YouTube Partner Program si sono iscritti per utilizzarlo.

“Abbiamo sempre saputo che c’era la necessità che questa tecnologia andasse oltre i soli creatori, e quindi oggi siamo entusiasti di annunciare che espanderemo questo programma pilota a giornalisti e funzionari pubblici, iniziando con un gruppo pilota per capire come questi utenti utilizzeranno lo strumento per proteggere le loro identità online,” ha dichiarato Amjad Hanif, VP dei Prodotti per Creatori di YouTube, in una conferenza stampa prima del lancio della funzionalità. “E man mano che apprenderemo di più dai cicli elettorali e su come i giornalisti lo utilizzeranno, lo espanderemo a un gruppo ancora più ampio di persone.”

“Questa espansione riguarda davvero l’integrità della conversazione pubblica,” aggiunge Leslie Miller, VP degli Affari Governativi e della Politica Pubblica per YouTube. “Sappiamo che i rischi di impersonificazione tramite AI sono particolarmente elevati per chi opera nell’ambito civico.”

L’azienda ha declinato di commentare quali leader politici, leader civici e giornalisti saranno invitati nel programma pilota, sebbene abbiano affermato che si aspettano di espanderlo rapidamente.

“Abbiamo avuto conversazioni regolari con diverse persone, e incoraggiamo i responsabili politici e altri a contattarci se vogliono saperne di più e far parte delle modalità con cui stiamo espandendo questo strumento,” ha dichiarato Miller.

Un aspetto importante è che YouTube ha anche chiarito che i principi di libertà di espressione continueranno ad applicarsi, per evitare che i politici abusino dello strumento:

“Pur fornendo questa nuova protezione, siamo anche attenti a come la utilizziamo,” ha detto Miller. “La rilevazione non significa automaticamente rimozione. YouTube ha una lunga storia di protezione della libertà di espressione, e questo include la parodia, la satira e la critica politica. Se un video di un leader mondiale è chiaramente una parodia, probabilmente rimarrà online.”

Hanif ha osservato che tra le celebrità e i creatori di YouTube che già utilizzano lo strumento, il numero di richieste di rimozione è sorprendentemente basso.

“Possono vedere molti abbinamenti, e credo che per molti di loro si tratti semplicemente di una maggiore consapevolezza su cosa viene creato,” ha detto. “Ma il volume delle richieste di rimozione è davvero, davvero basso, perché la maggior parte di ciò che viene rilevato risulta essere abbastanza benigno o aggiuntivo rispetto al loro business complessivo.”

La piattaforma video ha anche rilasciato un video che spiega lo strumento e cosa significherà per coloro che ora sono eleggibili per utilizzarlo.

Fonte