Na uvodnem zasedanju uvodnega te?aja o poglobljenem u?enju leta 2020 je doktor znanosti Alexander Amini s Tehnološkega inštituta v Massachusettsu (MIT) povabil slavnega gosta: nekdanjega ameriškega predsednika Baracka Obamo.
"Poglobljeno u?enje revolucionira toliko podro?ij, od robotike do medicine in vsega vmes," je dejal Obama, ki se je predavanju pridružil z video konferenco.
Potem ko je nekaj ve? spregovoril o vrlinah umetne inteligence, je Obama pomembno razodel: "Pravzaprav celoten govor in video posnetki niso resni?ni in so bili ustvarjeni z uporabo globokega u?enja in umetne inteligence."
Aminijev video Obama je bil pravzaprav a deepfake- video posnetek z umetno inteligenco, v katerem se igral?evi obrazi prenesejo na tar?o.
Od prvega pojava leta 2018 se je tehnologija deepfake iz eksperimentiranja s konji?ki razvila v u?inkovito in nevarno orodje.
Globoke ponaredke so bile uporabljene proti zvezdnikom in politikom in so postale grožnja resnici resnice.
Kako delujejo globoke fake?
Aplikacije Deepfake delujejo na razli?ne na?ine.
Nekateri premikajo obraze igralca na ciljni video, na primer tistega, ki smo ga videli na za?etku tega ?lanka, ali Obaminega globokega ponaredka, ki ga je ustvaril komik Jordan Peele, da bi opozoril na grožnjo lažnih novic:
Drugi deepfakes preslikajo obraz ciljne osebe na druge videoposnetke - na primer ta videoposnetek obraza Nicolasa Cageja je preslikan na lik likov v razli?nih filmih.
Kot ve?ina sodobnih aplikacij, ki temeljijo na umetni inteligenci, tudi deepfakes uporabljajo globoke nevronske mreže (od tod izvira deep v deepfake), vrsto algoritma AI, ki je še posebej dober pri iskanju vzorcev in korelacij v velikih naborih podatkov.
Nevronske mreže so se še posebej izkazale pri ra?unalniškem vidu, veji ra?unalništva in umetni inteligenci, ki obdeluje vizualne podatke.
Deepfakes uporablja posebno vrsto strukture nevronske mreže, imenovano "avtokoder".
Samodejni kodirniki so sestavljeni iz dveh delov: dajalnika, ki sliko stisne v majhno koli?ino podatkov; in dekodirnik, ki stisne podatke vrne v prvotno sliko.
Mehanizem je podoben mehanizmu slikovnih in video kodekov, kot sta JPEG in MPEG.
Toda za razliko od klasi?ne programske opreme za kodirnik / dekodirnik, ki deluje na skupine slikovnih pik, samodejni kodirnik deluje na funkcijah, ki jih najdemo na slikah, kot so oblike, predmeti in teksture.
Dobro izurjen samodejni kodirnik lahko preseže stiskanje in dekompresijo ter opravlja druge naloge - recimo ustvarjanje novih slik ali odstranjevanje šuma zrnatih slik.
Ko se avtokoder u?i na slikah obrazov, se nau?i lastnosti obraza: o?i, nosu, ust, obrvi itd.
Aplikacije Deepfake uporabljajo dva samodejna kodirnika - enega usposobljenega na obrazu igralca in drugega na obrazu tar?e.
Aplikacija zamenja vhode in izhode obeh samodejnih kodirnikov, da prenese obraze igralca na cilj.
Kaj naredi globoke fake posebne?
Tehnologija Deepfake ni edina vrsta, ki lahko v videoposnetkih zamenja obraz.
Dejansko industrija VFX (vizualni u?inki) to po?ne že desetletja.
Toda pred deepfakes je bila zmožnost omejena na filmske studie z globokim žepom z dostopom do obilnih tehni?nih virov.
Deepfakes so demokratizirali zmožnost zamenjave obrazov v videoposnetkih.
Tehnologija je zdaj na voljo vsem, ki imate ra?unalnik z dostojnim procesorjem in mo?no grafi?no kartico (na primer Nvidia GeForce GTX 1080) ali pa lahko za najem ra?unalništva v oblaku in virov GPU zapravite nekaj sto dolarjev.
Kljub temu ustvarjanje deepfakes ni niti trivialno niti popolnoma avtomatizirano.
Tehnologija se postopoma izboljšuje, vendar ustvarjanje dostojnega deepfakea še vedno zahteva veliko ?asa in ro?nega dela.
Najprej morate zbrati veliko fotografij obrazov tar?e in igralca, te fotografije pa morajo vsak obraz prikazati z razli?nih zornih kotov.
Postopek obi?ajno vklju?uje zajemanje na tiso?e sli?ic iz videoposnetkov, na katerih sta tar?a in igralec, ter njihovo obrezovanje, da vsebuje samo obraze.
Nova orodja za globoko ponarejanje, kot je Faceswap, lahko opravijo del dela z avtomatizacijo izvle?enja in obrezovanja okvirja, vendar še vedno zahtevajo ro?no prilagajanje.
Izobraževanje modela AI in ustvarjanje deepfake lahko traja od nekaj dni do dveh tednov, odvisno od konfiguracije strojne opreme in kakovosti podatkov o vadbi.
Nevarnosti globokih ponaredkov
Ustvarjanje zabavnih izobraževalnih videoposnetkov in zasedb po meri za vaše najljubše filme niso edina uporaba deepfakesov.
Videoposnetki, doktorirani z umetno inteligenco, imajo temnejšo plat, ki je postala veliko bolj vidna kot pozitivna in benigna uporaba.
Kmalu po izidu prvega programa deepfake je Reddit zasul lažni pornografski videoposnetek, v katerem so nastopali zvezdniki in politiki.
Skupaj z globokimi ponaredki je razvoj drugih tehnologij, ki jih poganja umetna inteligenca, omogo?il ne samo ponarejanje obraza, temve? tudi glas skoraj vseh.
Priporo?ajo ga naši uredniki
Porast globokih ponaredkov je povzro?il tudi druge skrbi.
Tukaj je pravo?asno: ?e lahko kdo s tehnologijo ustvari lažno pornografijo, kaj slabim igralcem prepre?uje, da bi širili lažne videoposnetke politikov, ki dajejo kontroverzne pripombe?
Zaradi poro?il o tem, kako algoritmi družbenih omrežij pospešujejo širjenje lažnih informacij, je grožnja krize z lažnimi novicami, ki jo je sprožila tehnologija deepfake, postala resna skrb, zlasti ko se ZDA pripravljajo na predsedniške volitve leta 2020.
Ameriški zakonodajalci so globoke ponaredke ozna?ili kot grožnjo nacionalni varnosti in izvedli ve? zaslišanj o možnih zlorabah tehnologije za vplivanje na javno mnenje s kampanjami dezinformacij.
In videli smo vrsto zakonodajnih ukrepov za prepoved globokih ponaredkov in odgovornost ljudi, ki jih ustvarjajo in distribuirajo.
Boj proti globokim ponaredkom
Prejšnji deepfakeji so vsebovali vizualne artefakte, ki so bili vidni s prostim o?esom, vklju?no z nenaravnim utripanjem o?i in nenormalnimi razli?icami barve kože.
Toda deepfake se nenehno izboljšujejo.
Raziskovalci so zasnovali nove tehnike za odkrivanje globokih ponaredkov, da bi le-ti postali neu?inkoviti, saj se tehnologija še naprej razvija in daje bolj naravne rezultate.
Ko se bližajo predsedniške volitve leta 2020, se ve?ja tehnološka podjetja in vladne agencije dirkajo proti širjenju globokih ponaredkov.
Septembra so Facebook, Microsoft in številne univerze razpisali nate?aj za razvoj orodij, ki lahko zaznajo globoke ponaredke in druge videoposnetke z umetno inteligenco.
"To je težava, ki se nenehno razvija, podobno kot neželena pošta ali drugi kontradiktorni izzivi, in upamo, da bomo lahko s pomo?jo industrije in skupnosti umetne inteligence hitreje napredovali," je v objavi v blogu, ki je predstavila Deepfake, zapisal generalni direktor Facebooka Michael Schroepfer.
Izziv odkrivanja.
Velikan socialnih medijev je za prizadevanja v celotni panogi namenil 10 milijonov dolarjev.
DARPA, raziskovalna enota ministrstva za obrambo, je prav tako sprožila pobudo za zajezitev širjenja globokih ponaredkov in drugih napadov na avtomatizirano dezinformacijo.
Poleg odkrivanja posnetih video posnetkov in slik bo DARPA iskala na?ine za lažje dodeljevanje in identifikacijo strank, ki sodelujejo pri ustvarjanju lažnih medijev.
Druga prizadevanja na univerzah in raziskovalnih laboratorijih segajo od globokega u?enja za odkrivanje spremenjenih podro?ij na slikah do uporabe verige blokov za ugotavljanje resnice in registracijo verodostojnih videoposnetkov.
Toda vse v vsem se raziskovalci strinjajo, da je boj proti globokim ponaredkom postal lov na ma?ke in miši.
Kot mi je lani povedal neki raziskovalec: Karkoli že po?nemo, ljudje, ki ustvarjajo te manipulacije, pripravijo nekaj drugega.
Ne vem, ali bo kdaj prišel ?as, ko bomo lahko zaznali vse vrste manipulacij.
"
