Facebook beslutar att ta bort vilseledande Deepfakes

Facebook har beslutat att klämma fast på vad det beskriver som media som har manipulerats för att vilseleda.

I synnerhet kommer djupa förfalskningar i rampljuset och är nu mycket mer benägna att tas bort från det sociala nätverket.

I ett blogginlägg förklarar Monika Bickert, vice vd för Global Policy Management på Facebook, hur de flesta mediemanipuleringar utförs av godartade skäl som att göra ljud tydligare på en video.

Deepfakes är emellertid en annan sak och kan skapas för att vilseleda.

Facebook kommer att ta bort sådant innehåll, men bara under vissa omständigheter.

Om media har "redigerats eller syntetiserats - bortom justeringar för tydlighet eller kvalitet", men på ett sätt som inte är uppenbart för den genomsnittliga personen kommer det att flaggas.

Det räcker dock inte ensam.

Medierna måste också ha skapats med hjälp av AI eller maskininlärning som "slår ihop, ersätter eller överlagrar innehåll till en video, vilket gör att det verkar vara autentiskt."

Innehåll som är parodi, satir eller manipulerat "enbart för att utelämna eller ändra ordordningen" är undantaget och kommer inte att tas bort.

Facebook kommer också att fortsätta att genomdriva sina gemenskapsstandarder och använda ett nätverk av oberoende faktakontrollanter från tredje part för att granska innehåll.

Om kriterierna för att ta bort vilseledande media verkar ganska restriktiva beror det på att Facebook har gjort det medvetet.

Företagets argument är: "Om vi ??helt enkelt tog bort alla manipulerade videor som flaggats av faktakontroller som falska, skulle videoklippen fortfarande finnas tillgängliga någon annanstans på internet eller sociala medier.

Genom att lämna dem kvar och märka dem som falska, tillhandahåller vi människor med viktig information och sammanhang.

"

Som Reuters rapporterar kommer Facebooks klämma på manipulerade medier före de amerikanska valen nästa år.

Vi kommer säkert att se många djupa förfalskningar som försöker vilseleda väljarna inför november, som förhoppningsvis inte nu kommer att visas och delas på Facebook.

Men som ett exempel på hur begränsade Facebooks regler är, förblir den redigerade videon av amerikanska husets talare Nancy Pelosi som visar henne som osammanhängande slurring av hennes tal tillgängligt på det sociala nätverket.

Facebook förklarar varför i ett uttalande och säger "Den doktrerade videon av högtalare Pelosi uppfyller inte kraven i denna policy och skulle inte tas bort.

Endast videor som genereras av artificiell intelligens för att skildra människor som säger fiktiva saker kommer att tas bort ...

När video av högtalare Pelosi rankades av en tredje part faktakontroll vi minskade dess distribution, och kritiskt, människor som såg det, försökte dela det eller redan hade fått varningar om att det var falskt.

"

Facebook har beslutat att klämma fast på vad det beskriver som media som har manipulerats för att vilseleda.

I synnerhet kommer djupa förfalskningar i rampljuset och är nu mycket mer benägna att tas bort från det sociala nätverket.

I ett blogginlägg förklarar Monika Bickert, vice vd för Global Policy Management på Facebook, hur de flesta mediemanipuleringar utförs av godartade skäl som att göra ljud tydligare på en video.

Deepfakes är emellertid en annan sak och kan skapas för att vilseleda.

Facebook kommer att ta bort sådant innehåll, men bara under vissa omständigheter.

Om media har "redigerats eller syntetiserats - bortom justeringar för tydlighet eller kvalitet", men på ett sätt som inte är uppenbart för den genomsnittliga personen kommer det att flaggas.

Det räcker dock inte ensam.

Medierna måste också ha skapats med hjälp av AI eller maskininlärning som "slår ihop, ersätter eller överlagrar innehåll till en video, vilket gör att det verkar vara autentiskt."

Innehåll som är parodi, satir eller manipulerat "enbart för att utelämna eller ändra ordordningen" är undantaget och kommer inte att tas bort.

Facebook kommer också att fortsätta att genomdriva sina gemenskapsstandarder och använda ett nätverk av oberoende faktakontrollanter från tredje part för att granska innehåll.

Om kriterierna för att ta bort vilseledande media verkar ganska restriktiva beror det på att Facebook har gjort det medvetet.

Företagets argument är: "Om vi ??helt enkelt tog bort alla manipulerade videor som flaggats av faktakontroller som falska, skulle videoklippen fortfarande finnas tillgängliga någon annanstans på internet eller sociala medier.

Genom att lämna dem kvar och märka dem som falska, tillhandahåller vi människor med viktig information och sammanhang.

"

Som Reuters rapporterar kommer Facebooks klämma på manipulerade medier före de amerikanska valen nästa år.

Vi kommer säkert att se många djupa förfalskningar som försöker vilseleda väljarna inför november, som förhoppningsvis inte nu kommer att visas och delas på Facebook.

Men som ett exempel på hur begränsade Facebooks regler är, förblir den redigerade videon av amerikanska husets talare Nancy Pelosi som visar henne som osammanhängande slurring av hennes tal tillgängligt på det sociala nätverket.

Facebook förklarar varför i ett uttalande och säger "Den doktrerade videon av högtalare Pelosi uppfyller inte kraven i denna policy och skulle inte tas bort.

Endast videor som genereras av artificiell intelligens för att skildra människor som säger fiktiva saker kommer att tas bort ...

När video av högtalare Pelosi rankades av en tredje part faktakontroll vi minskade dess distribution, och kritiskt, människor som såg det, försökte dela det eller redan hade fått varningar om att det var falskt.

"