HTCinside


Microsoft ilmoittaa Video Authenticatorin tunnistamaan syvät väärennökset

Estääkseen leviämisensyvät väärennökset, Microsoft on julkaissut uuden videoiden todennustyökalun, jonka avulla voidaan analysoida still-kuvaa tai videota ja määrittää prosentuaalinen todennäköisyys, että tietovälinettä on manipuloitu keinotekoisesti.

Videon tapauksessa Microsoft ilmoitti, että tämä prosenttiosuus voidaan antaa reaaliajassa jokaiselle ruudulle videon toiston aikana. Tunnistaa syvien, hienovaraisten harmaasävyjen tai haalistuvien elementtien sekoitusviivan, jotka eivät välttämättä näy ihmissilmälle.

Deepfake tai synteettinen media voi olla valokuvia, videoita tai äänitiedostoja, joita keinoäly (AI) käsittelee. Microsoftin mukaan syvien väärennösten havaitseminen on erittäin tärkeää tulevissa Yhdysvaltain vaaleissa.

Tekniikka luotiin käyttämällä Face Forensic ++:n julkista tietojoukkoa. Microsoft sanoi, että sitä testattiin DeepFake Detection Challenge -tietojoukolla, jonka uskotaan olevan johtava malli. kouluttaa ja testata saapuvia väärennösten havaitsemistekniikoita.

'Odotamme, että synteettisten median tuotantomenetelmien monimutkaisuus tulee jatkossakin kasvamaan. Koska kaikilla tekoälyn havaitsemismenetelmillä on virheprosentti, meidän on ymmärrettävä ja oltava valmiita reagoimaan syvälle juurtuneisiin väärennöksiin, jotka läpäisevät tunnistusmenetelmiä. yhtiö kertoi blogikirjoituksessaan.

'Pitkällä aikavälillä meidän on siksi etsittävä vahvempia tapoja ylläpitää ja varmentaa uutisartikkeleiden ja muiden tiedotusvälineiden aitous.'

Muutaman saatavilla olevan työkalun ansiosta Microsoft on myös ottanut käyttöön uuden tekniikan, joka voi havaita peukaloidun sisällön ja varmistaa, että katsomasi media on aito.

Tekniikka koostuu kahdesta osasta. Ensimmäinen on Microsoft Azureen sisäänrakennettu työkalu, jonka avulla sisällöntuottaja voi lisätä sisältöön digitaalisia tiivisteitä ja varmenteita.

'Hashit ja sertifikaatit sisältävät sisällön metatietona, missä tahansa se on verkossa', Microsoft sanoi.

Toinen on lukija, joka voidaan sisällyttää selainlaajennukseen, joka tarkistaa varmenteet ja vertaa tiivisteitä osumiin aitouden määrittämiseksi.

Microsoft on myös tehnyt yhteistyötä tekoälysäätiön kanssa sen syvässä valetaistelussa. Osana kumppanuutta molemmat osapuolet tarjoavat videoiden todentajia demokraattiseen prosessiin osallistuville organisaatioille, mukaan lukien uutisorganisaatioille ja poliittisille kampanjoille säätiön Reality Defender 2020 -aloitteen kautta.

Videotodennus on aluksi käytettävissä vain aloitteen kautta.

Toinen kumppanuus Project Origin -nimisen mediayrityskonsortion kanssa testaa Microsoftin aitousteknologiaa. Useiden julkaisijoiden ja sosiaalisen median yritysten aloite, Trusted News Initiative, sopi myös yhteistyöstä Microsoftin kanssa heidän teknologiansa testaamiseksi.

Washingtonin yliopisto, In-House Counterfeit Detection Sensitivity ja USA Today ovat myös tehneet yhteistyötä Microsoftin kanssa parantaakseen medialukutaitoa.

'Medialukutaitoa parantamalla ihmiset voivat poistaa todellisiin tapahtumiin perustuvan väärän tiedon ja hallita halpojen ja syvällisten väärennösten riskejä', Microsoft sanoi. 'Medioiden tunteminen voi antaa meille mahdollisuuden ajatella kriittisesti mediakontekstia ja tulla sitoutuneempiksi kansalaisiksi samalla kun nautimme satiirista ja parodiasta.'

Osana tätä kumppanuutta järjestetään julkisen palvelun tiedotuskampanja, joka kutsuu ihmisiä 'pysähtämään pohdiskelemaan' ja varmistamaan, että tiedot ovat peräisin hyvämaineisesta uutisorganisaatiosta ennen niiden jakamista tai mainostamista. sosiaalisessa mediassa ennen vaaleja.

Osapuolet käynnistivät myös kyselylomakkeen amerikkalaisille äänestäjille saadakseen lisätietoja synteettisestä mediasta.