Facebook ha deciso di reprimere ciò che descrive come media che è stato manipolato per fuorviare.
In particolare, i deepfake stanno venendo sotto i riflettori e ora è molto più probabile che vengano rimossi dal social network.
In un post sul blog, Monika Bickert, vicepresidente del Global Policy Management di Facebook, spiega come la maggior parte della manipolazione dei media viene eseguita per motivi benevoli, come rendere l'audio più chiaro su un video.
Tuttavia, i deepfake sono una questione diversa e possono essere creati per fuorviare.
Facebook eliminerà tali contenuti, ma solo in determinate circostanze.
Se i media sono stati "modificati o sintetizzati - al di là degli aggiustamenti per chiarezza o qualità", ma in un modo che non è evidente alla persona media, verranno segnalati.
Tuttavia, da solo non è abbastanza.
I media devono anche essere stati creati con l'aiuto dell'intelligenza artificiale o dell'apprendimento automatico che "unisce, sostituisce o sovrappone il contenuto a un video, facendolo sembrare autentico".
I contenuti che sono parodia, satira o manipolati "esclusivamente per omettere o modificare l'ordine delle parole" sono esenti e non verranno rimossi.
Facebook continuerà inoltre a far rispettare i suoi standard comunitari e a utilizzare una rete di verificatori di fatti di terze parti indipendenti per esaminare i contenuti.
Se i criteri per rimuovere i media ingannevoli sembrano piuttosto restrittivi, è perché Facebook lo ha reso intenzionalmente così.
L'argomento dell'azienda è: "Se rimuovessimo semplicemente tutti i video manipolati contrassegnati come falsi dai fact-checker, i video sarebbero ancora disponibili altrove su Internet o sull'ecosistema dei social media.
Lasciandoli in sospeso ed etichettandoli come falsi, stiamo fornendo persone con informazioni e contesto importanti ".
Come riporta Reuters, la repressione di Facebook sui media manipolati arriva prima delle elezioni americane del prossimo anno.
Siamo sicuri di vedere molti deepfake che tentano di fuorviare gli elettori nel periodo precedente a novembre, che si spera non appariranno e non verranno condivisi su Facebook.
Tuttavia, come esempio di quanto siano limitate le regole di Facebook, il video modificato della presidente della Camera degli Stati Uniti Nancy Pelosi che la ritrae mentre biascica incoerentemente il suo discorso rimane disponibile sul social network.
Consigliato dai nostri editori
Facebook spiega perché in una dichiarazione, dicendo: "Il video ritoccato del presidente Pelosi non soddisfa gli standard di questa politica e non verrebbe rimosso.
Solo i video generati dall'intelligenza artificiale per raffigurare persone che dicono cose di fantasia verranno rimossi ...
Una volta che il il video di Speaker Pelosi è stato valutato da un fact-checker di terze parti, ne abbiamo ridotto la distribuzione e, in modo critico, le persone che lo hanno visto, hanno cercato di condividerlo o avevano già ricevuto avvertimenti che era falso.
