Video: Tekoäly tunnistaa täydelliset väärennetyt videot
2024 Kirjoittaja: Richard Flannagan | [email protected]. Viimeksi muokattu: 2023-12-16 00:04
Vuosi sitten Stanfordin Manish Agrawala auttoi kehittämään huulten synkronointitekniikkaa, jonka avulla videonmuokkausohjelmat voivat muuttaa kaiuttimien sanoja melkein huomaamattomasti. Työkalu voi helposti lisätä sanoja, joita henkilö ei koskaan puhunut, edes lauseen keskelle, tai poistaa sanomat sanat. Kaikki näyttää realistiselta paljaalla silmällä ja jopa monilla tietokonejärjestelmillä.
Tämä työkalu on helpottanut virheiden korjaamista ilman kokonaisten kohtausten kuvaamista uudelleen ja on myös mukauttanut TV-ohjelmia tai elokuvia eri yleisöille eri paikoissa. Mutta tämä tekniikka on myös luonut häiritseviä uusia mahdollisuuksia vaikeasti löydettäville fake-videoille, joiden selkeä tarkoitus on vääristää totuus. Esimerkiksi tuore republikaanivideo käytti karkeampaa tekniikkaa haastattelussa Joe Bidenin kanssa.
Tänä kesänä Agrawala ja hänen kollegansa Stanfordissa ja UC Berkeleyssä esittelivät tekoälyyn perustuvan lähestymistavan huulisynkronointitekniikkaan. Uusi ohjelma tunnistaa tarkasti yli 80 prosenttia väärennöksistä ja tunnistaa pienimmätkin erot ihmisten äänien ja suun muodon välillä.
Mutta Agrawala, Stanfordin mediainnovaatioinstituutin johtaja ja tietojenkäsittelytieteen professori Forest Baskettissa, joka on myös sidoksissa Stanfordin ihmiskeskeisen tekoälyn instituuttiin, varoittaa, että syviin väärennöksiin ei ole pitkäaikaista teknistä ratkaisua.
Kuinka väärennökset toimivat
Videon manipulointiin on perusteltuja syitä. Esimerkiksi jokainen, joka kuvaa kuvitteellista TV -ohjelmaa, elokuvaa tai mainosta, voi säästää aikaa ja rahaa käyttämällä digitaalisia työkaluja virheiden korjaamiseen tai käsikirjoitusten muokkaamiseen.
Ongelma syntyy, kun näitä työkaluja käytetään tarkoituksella väärän tiedon levittämiseen. Ja monet tekniikat ovat näkymättömiä tavalliselle katsojalle.
Monet syvät fake -videot perustuvat kasvojenvaihtoon, ja ne kirjaimellisesti asettavat yhden henkilön kasvot toisen henkilön videoon. Mutta vaikka kasvojenvaihtotyökalut voivat olla pakottavia, ne ovat suhteellisen raakoja ja jättävät yleensä digitaalisia tai visuaalisia esineitä, jotka tietokone voi havaita.
Toisaalta huulten synkronointitekniikat ovat vähemmän näkyvissä ja siksi vaikeampia havaita. Ne manipuloivat paljon pienempää osaa kuvasta ja syntetisoivat sitten huuliliikkeitä, jotka vastaavat tarkalleen sitä, miten ihmisen suu liikkuisi, jos hän puhuisi tiettyjä sanoja. Agrawalin mukaan väärennetty tuottaja voi saada henkilön sanomaan mitä tahansa, jos hänellä on riittävästi näytteitä henkilön kuvasta ja äänestä.
Väärennösten havaitseminen
Agrawala oli huolissaan tällaisen tekniikan epäeettisestä käytöstä ja työskenteli yhdessä Stanfordin jatko -opiskelijan Ohad Freedin kanssa havaintotyökalun kehittämiseksi. Hani Farid, professori Kalifornian yliopistossa, Berkeley School of Information; ja Shruti Agarwal, tohtorikoulutettava Berkeleyssä.
Aluksi tutkijat kokeilivat puhtaasti manuaalista tekniikkaa, jossa tarkkailijat tutkivat videomateriaalia. Se toimi hyvin, mutta käytännössä se oli työlästä ja aikaa vievää.
Tutkijat testasivat sitten tekoälyyn perustuvaa hermoverkkoa, joka olisi paljon nopeampi tehdä sama analyysi sen jälkeen, kun hän oli harjoitellut videolla entisen presidentin Barack Obaman kanssa. Neuraaliverkko havaitsi yli 90 prosenttia Obaman omasta huulisynkronoinnista, vaikka muiden kaiuttimien tarkkuus laski noin 81 prosenttiin.
Todellinen totuuden testi
Tutkijat sanovat, että heidän lähestymistapansa on vain osa kissa ja hiiri peliä. Kun syvän väärentämisen tekniikat paranevat, ne jättävät vielä vähemmän avaimia.
Agrawala sanoo, että viime kädessä todellinen ongelma ei ole niinkään syvästi väärennettyjen videoiden torjuminen kuin väärän tiedon torjuminen. Itse asiassa hän toteaa, että suuri osa harhaanjohtavasta tiedosta syntyy vääristämällä ihmisten sanojen merkitys.
"Vähempien tietojen vähentämiseksi meidän on parannettava medialukutaitoa ja kehitettävä vastuuvelvollisuusjärjestelmiä", hän sanoo. "Tämä voi tarkoittaa lakeja, jotka kieltävät väärän tiedon tarkoituksellisen tuottamisen ja niiden rikkomisen seuraukset, sekä mekanismeja siitä aiheutuvan haitan poistamiseksi."
Suositeltava:
Valentin Gaftin muistoksi: Epäonnistuneet rakkaus kohtaukset, väärennetyt epigrammit ja muut vähän tunnetut tosiasiat kuuluisasta taiteilijasta
Kuuluisa teatteri- ja elokuvanäyttelijä, kirjailija, RSFSR: n kansantaiteilija Valentina Gafta tuli laajalti tunnetuksi paitsi elävien roolien esittäjänä elokuvissa "Garage", "Say a Word of the Poor Hussar", "Forgotten Melody for the Flute". "," Noidat ", mutta myös filosofisten runojen ja koskien epigrammien kirjoittajana, minkä vuoksi hänen suhteensa kollegoihinsa heikkenivät usein. Kuka todella loi osan Gaftille annetuista sanoituksista, miksi näyttelijät loukkaantuivat häntä ja miksi näyttelijät eivät halunneet leikkiä kummankaan kanssa
Miltä Marilyn Monroe, Elvis ja muut näyttäisivät vanhuudessa: Tekoäly on vanhentanut epäjumalia, jotka lähtivät aikaisin
Marilyn Monroe pelkäsi hyvin vanhuutta, mutta jopa kuolema 36 -vuotiaana ei pelastanut häntä tästä mahdollisuudesta. Eräs toimittaja päätti kiinnostuksen vuoksi katsoa miltä tämän maailman nuorena jättäneet maailmantähdet olisivat näyttäneet, jos he olisivat selvinneet tähän päivään. Yksinkertaisella tietokoneohjelmalla hän vanhensi paitsi Marilynin myös muita ikonisia näyttelijöitä ja muusikoita ja julkaisi kokeilunsa tulokset Instagramissa
Tekoäly "elvytti" seteleistä kuuluisien maalausten, sarjakuvien ja presidenttien sankareita
Yksi graafikko päätti käyttää nykyaikaista tekniikkaa nähdäkseen, miltä suurten kankaiden hahmot ja muut piirretyt sankarit voivat näyttää, jos he yhtäkkiä heräävät henkiin ja jättävät kuvia, televisioruutuja, seteleitä … Tämän kokeilijan nimi on Nathan Shipley asuu San Franciscossa. Taiteilijan työn tulokset tai pikemminkin hänen hallitsemansa tekoäly ovat vaikuttavia. Mona Lisa, suosittujen sarjakuvien hahmot, poliittiset
Mitä suosittuissa kuvissa todella näkyy: tositapahtumat vs. väärennetyt tarinat
Verkossa näkyy nykyään usein retrokuvia, joiden taakse on piilotettu epätavallisia menneisyyden tarinoita. Ihmiset jakavat mielellään tällaisia kuvia ja tunteellisia tarinoita, joten nämä materiaalit ovat usein viruksia. Monet heistä ovat kuitenkin todellisia väärennöksiä: joko tarina on keksitty tyhjästä tai valokuva itsessään ei ole todellinen. Tässä katsauksessa tarina viidestä tällaisesta tapauksesta
Paavi Carlo XXI vuosisata. Bruno Walpothin anatomisesti täydelliset veistokset
Vanha urkuhiomakone Carlo katkaisi hämmentyneen poikansa hirsistä, jotta hänellä olisi joku, joka viettäisi aikaa ilman kärsimystä yksinäisyydestä. Italialaisella kuvanveistäjällä Bruno Walpothilla on suuri perhe, mutta hän kuitenkin myös "elvyttää" puun, veistämällä ihmisten veistoksia hirsistä, hämmästyttäen niiden anatomista oikeellisuutta. Siksi Walpotia kutsutaan nykyaikaiseksi paavi Carloksi, ja hänen näyttelyt realistisista puiveistoksista ovat aina täynnä