Syvät väärennökset: Neuroset opetettiin luomaan ääni- ja videoväärennöksiä

2024 Kirjoittaja: Seth Attwood | [email protected]. Viimeksi muokattu: 2023-12-16 16:04

"Yksilöllisen" uutiskuvan luomiseen meistä kenelle tahansa ja siihen valittujen tiedotusvälineiden väärentämiseen riittää tänään yhden ohjelmoijan ponnistus. Tekoälyn ja kyberturvallisuuden asiantuntijat kertoivat tästä Izvestialle.

Viime aikoina he arvioivat, että tämä vaati useiden tiimien työtä. Tällainen kiihtyvyys on tullut mahdolliseksi kehitettäessä tekniikoita hermoverkkoihin kohdistuvia hyökkäyksiä varten sekä ääni- ja videoväärennösten luomiseen "syvien väärennösten" luomiseen tarkoitettujen ohjelmien avulla. Sanomalehti Izvestia joutui äskettäin samanlaisen hyökkäyksen kohteeksi, kun kolme libyalaista uutisportaalia julkaisi yhtä aikaa viestin, jonka väitetään esiintyneen yhdessä numerossa. Asiantuntijoiden mukaan 3-5 vuoden sisällä voimme odottaa robottimanipulaattorien hyökkäystä, joka pystyy automaattisesti luomaan paljon väärennöksiä.

Uusi uljas maailma

Yhä useammat projektit mukauttavat tietokuvaa tiettyjen käyttäjien käsityksiin. Yksi esimerkki heidän työstään oli kolmen libyalaisen portaalin äskettäinen toiminta, jotka julkaisivat uutisen, jonka väitetään julkaistun Izvestian numerossa 20. marraskuuta. Väärennyksen tekijät muokkasivat sanomalehden etusivua ja julkaisivat sille viestin marsalkka Khalifa Haftarin ja kansallisen yhteisymmärryksen hallituksen (PNS) pääministerin Fayez Sarrajin välisistä neuvotteluista. Väärennetyn Izvestia-kirjasintyypin mukana oli toukokuussa 2017 otettu kuva kahdesta johtajasta. Julkaisun logolla varustettu etiketti leikattiin varsinaisesta 20.11. ilmestyneestä numerosta ja kaikki sivun tekstit 23.10. ilmestyneestä numerosta.

Asiantuntijoiden näkökulmasta tällaiset väärennökset voidaan lähitulevaisuudessa tehdä automaattisesti.

"Tekoälyteknologiat ovat nyt täysin avoimia, ja tiedon vastaanottamiseen ja käsittelyyn tarkoitetut laitteet pienentyvät ja halpenevat", Yuri Vilsiter, fysiikan ja matemaattisten tieteiden tohtori, Venäjän tiedeakatemian professori, FSUE "GosNIIAS" -osaston johtaja, kertoi Izvestialle. – Siksi on erittäin todennäköistä, että lähitulevaisuudessa ei edes valtio ja suuryritykset, vaan yksinkertaisesti yksityishenkilöt pääsevät salakuuntelemaan ja vakoilemaan meitä sekä manipuloimaan todellisuutta. Lähivuosina häneen on mahdollista vaikuttaa käyttäjien mieltymyksiä analysoimalla uutissyötteiden ja erittäin fiksujen väärennösten kautta.

Juri Vilsiterin mukaan teknologioita, joita voidaan käyttää tällaiseen interventioon henkiseen ympäristöön, on jo olemassa. Teoriassa robottibottien hyökkäystä voidaan odottaa muutaman vuoden kuluttua, hän sanoi. Rajoittava kohta tässä voi olla tarve kerätä suuria tietokantoja esimerkeistä todellisten ihmisten reaktioista keinotekoisiin ärsykkeisiin ja seurata pitkän aikavälin seurauksia. Tällainen seuranta vaatii todennäköisesti vielä useita vuosia tutkimusta, ennen kuin kohdennettuja hyökkäyksiä saadaan jatkuvasti.

Vision hyökkäys

Alexey Parfentiev, SearchInformin analytiikkaosaston johtaja, on myös samaa mieltä Juri Vilsiterin kanssa. Hänen mukaansa asiantuntijat ennustavat jo nyt hermoverkkoihin kohdistuvia hyökkäyksiä, vaikka nyt sellaisia esimerkkejä ei käytännössä ole.

- Gartnerin tutkijat uskovat, että vuoteen 2022 mennessä 30 % kaikista kyberhyökkäyksistä on suunnattu hermoverkon koulutuksen kohteena olevan datan turmelemiseen ja valmiiden koneoppimismallien varastamiseen. Silloin esimerkiksi miehittämättömät ajoneuvot voivat yhtäkkiä alkaa sekoittaa jalankulkijoita muihin esineisiin. Emmekä puhu taloudellisesta tai maineriskistä, vaan tavallisten ihmisten elämästä ja terveydestä, asiantuntija uskoo.

Hyökkäyksiä tietokonenäköjärjestelmiin tehdään nyt osana tutkimusta. Tällaisten hyökkäysten tarkoituksena on saada hermoverkko havaitsemaan kuvasta jotain, mitä siellä ei ole. Tai päinvastoin, olla näkemättä, mitä oli suunniteltu.

"Yksi aktiivisesti kehittyvistä aiheista hermoverkkojen koulutuksen alalla on niin sanotut adversariaaliset hyökkäykset (" kontradiktoriset hyökkäykset. "- Izvestia), " selitti Vladislav Tushkanov, Kaspersky Labin verkkoanalyytikko. - Useimmissa tapauksissa ne on suunnattu tietokonenäköjärjestelmiin. Tällaisen hyökkäyksen suorittamiseksi sinulla on useimmissa tapauksissa oltava täysi pääsy hermoverkkoon (niin sanotut valkoisen laatikon hyökkäykset) tai sen työn tuloksiin (mustan laatikon hyökkäykset). Ei ole olemassa menetelmiä, jotka voisivat pettää mitä tahansa tietokonenäköjärjestelmää 100 %:ssa tapauksista. Lisäksi on jo luotu työkaluja, joiden avulla voit testata hermoverkkojen vastustuskykyä vastakkaisille hyökkäyksille ja lisätä niiden vastustuskykyä.

Tällaisen hyökkäyksen aikana hyökkääjä yrittää jollakin tavalla muuttaa tunnistettua kuvaa niin, että hermoverkko ei toimi. Usein valokuvan päälle tulee kohinaa, joka on samanlainen kuin kuvattaessa huonosti valaistussa huoneessa. Ihminen ei yleensä huomaa tällaista häiriötä hyvin, mutta hermoverkko alkaa toimia väärin. Mutta tällaisen hyökkäyksen suorittamiseksi hyökkääjällä on oltava pääsy algoritmiin.

Neuroset Ashmanovin pääjohtajan Stanislav Ashmanovin mukaan tällä hetkellä ei ole menetelmiä tämän ongelman ratkaisemiseksi. Lisäksi tämä tekniikka on kaikkien saatavilla: tavallinen ohjelmoija voi käyttää sitä lataamalla tarvittavan avoimen lähdekoodin ohjelmiston Github-palvelusta.

- Hyökkäys hermoverkkoon on tekniikka ja algoritmit hermoverkon huijaamiseen, jotka saavat sen tuottamaan vääriä tuloksia ja itse asiassa rikkomaan sen kuin oven lukon, Ashmanov uskoo. - Esimerkiksi kasvojentunnistusjärjestelmä on nyt melko helppo saada ajattelemaan, että et ole sinä, vaan Arnold Schwarzenegger sen edessä - tämä tehdään sekoittamalla hermoverkkoon tulevaan dataan ihmissilmälle huomaamattomia lisäaineita. Samat hyökkäykset ovat mahdollisia puheentunnistus- ja -analyysijärjestelmille.

Asiantuntija on varma, että se vain pahenee - nämä tekniikat ovat menneet massoihin, huijarit käyttävät niitä jo, eikä niitä vastaan ole suojaa. Koska ei ole suojaa video- ja ääniväärennösten automaattista luomista vastaan.

Syviä väärennöksiä

Deep Learningiin perustuvat Deepfake-teknologiat (hermoverkkojen syväoppimisen tekniikat. - Izvestia) muodostavat jo todellisen uhan. Video- tai ääniväärennöksiä luodaan muokkaamalla tai peittämällä kuuluisien ihmisten kasvot, jotka oletettavasti lausuvat tarvittavan tekstin ja näyttelevät tarvittavaa roolia juonessa.

"Deepfaken avulla voit korvata huulten liikkeet ja ihmisen puheen videolla, mikä luo tapahtumista realistisen tunteen", sanoo Andrey Busargin, Group-IB:n innovatiivisen tuotemerkin suojan ja immateriaalioikeuksien osaston johtaja. - Väärennetyt julkkikset "tarjoavat" käyttäjille sosiaalisissa verkostoissa osallistua arvokkaiden palkintojen (älypuhelimet, autot, rahasummat) arvontaan jne. Linkit tällaisista videojulkaisuista johtavat usein petollisille ja tietojenkalastelusivustoille, joille käyttäjiä pyydetään antamaan henkilökohtaisia tietoja, kuten pankkikorttitietoja. Tällaiset järjestelmät uhkaavat sekä tavallisia käyttäjiä että mainoksissa mainittuja julkisuuden henkilöitä. Tällainen huijaus alkaa yhdistää julkkiskuvat huijauksiin tai mainostettuihin tuotteisiin, ja tässä kohtaamme henkilökohtaisia brändejä, hän sanoo.

Toinen uhka liittyy "väärennösäänien" käyttöön puhelinpetokseen. Esimerkiksi Saksassa kyberrikolliset käyttivät äänen syväfakea saadakseen brittiläisen tytäryhtiön johtajan siirtämään pikaisesti 220 000 euroa puhelinkeskustelussa esiintyen yrityksen johtajana.unkarilaisen toimittajan tilille. Brittiyrityksen johtaja epäili temppua, kun hänen "pomonsa" pyysi toista maksumääräystä, mutta puhelu tuli itävaltalaisesta numerosta. Siihen mennessä ensimmäinen erä oli jo siirretty Unkarissa olevalle tilille, josta rahat nostettiin Meksikoon.

Osoittautuu, että nykytekniikan avulla voit luoda yksilöllisen uutiskuvan, joka on täynnä valeuutisia. Lisäksi on pian mahdollista erottaa väärennökset oikeasta videosta ja äänestä vain laitteiston avulla. Asiantuntijoiden mukaan hermoverkkojen kehittämisen kieltävät toimet eivät todennäköisesti ole tehokkaita. Siksi pian elämme maailmassa, jossa on tarpeen jatkuvasti tarkistaa kaikki uudelleen.

"Tähän on varauduttava, ja tämä on hyväksyttävä", Juri Vilsiter painotti. – Ihmiskunta ei ole ensimmäinen kerta, kun se siirtyy todellisuudesta toiseen. Maailmamme, elämäntapamme ja arvomme eroavat radikaalisti siitä maailmasta, jossa esi-isämme asuivat 60 000 vuotta sitten, 5 000 vuotta sitten, 2 000 vuotta sitten ja jopa 200-100 vuotta sitten. Lähitulevaisuudessa henkilöltä riistetään pitkälti yksityisyys ja siksi hänen on pakko salata mitään ja toimia rehellisesti. Samaan aikaan mitään ympäröivässä todellisuudessa ja omassa persoonallisuudessa ei voida ottaa uskon varaan, kaikkea pitää kyseenalaistaa ja jatkuvasti tarkistaa. Mutta onko tämä tulevaisuuden todellisuus kamalaa? Ei. Siitä tulee yksinkertaisesti täysin erilainen.