Võtmed kaasavõtmiseks
- Uus uuring näitab, et inimesed ei suuda AI-ga loodud pilte tegelikest eraldada.
- Osalejad hindasid tehisintellektiga loodud pilte usaldusväärsemaks.
- Eksperdid usuvad, et inimesed ei peaks enam usaldama kõike, mida nad Internetis näevad.
Ventsõna "nägemine on uskumine" ei ole Interneti puhul enam asjakohane ja ekspertide sõnul ei lähe see niipea paremaks.
Hiljutises uuringus leiti, et tehisintellekti (AI) loodud näokujutised ei olnud mitte ainult väga fotorealistlikud, vaid tundusid ka vooruslikumad kui tõelised näod.
"Meie hinnang tehisintellektiga sünteesitud nägude fotorealismile näitab, et sünteesimootorid on läbinud kummalise oru ja on võimelised looma nägusid, mis on eristamatud ja usaldusväärsemad kui päris näod," märkisid teadlased.
Seda inimest pole olemas
Teadlased dr Sophie Nightingale Lancasteri ülikoolist ja professor Hany Farid California ülikoolist Berkeleyst viisid läbi katsed pärast seda, kui tunnistasid laialdaselt avalikustatud sügavate võltsingute ohte, mis ulatuvad igasugustest veebipettustest kuni turgutavate võltsinguteni. desinformatsioonikampaaniad.
"Võib-olla kõige kahjulikum on tagajärg, et digitaalses maailmas, kus mis tahes pilti või videot saab võltsida, võib ebamugava või soovimatu salvestise autentsus kahtluse alla seada," väitsid teadlased.
Nad väitsid, et kuigi sügav alt võltsitud sisu tuvastamise automaatsete tehnikate väljatöötamisel on tehtud edusamme, ei ole praegused tehnikad piisav alt tõhusad ja täpsed, et pidada sammu võrgus üles laaditava pideva uue sisu vooga. See tähendab, et veebisisu tarbijad peavad eristama tõelise võltsingust, soovitab duo.
Jelle Wieringa, KnowBe4 turvateadlikkuse propageerija, nõustus. Ta ütles Lifewire'ile meili teel, et tegelike sügavate võltsingute vastu võitlemine on ilma spetsiaalse tehnoloogiata äärmiselt raske. "[Leevendustehnoloogiad] võivad olla kulukad ja neid on raske reaalajas protsessides rakendada, sageli tuvastatakse sügavvõltsing alles pärast seda."
Selle eelduse põhjal viisid teadlased läbi rea katseid, et teha kindlaks, kas inimestest osavõtjad suudavad eristada tipptasemel sünteesitud nägusid tegelikest nägudest. Testide käigus avastasid nad, et vaatamata võltsingute tuvastamise koolitusele paranes täpsus 59%, võrreldes 48% ilma koolituseta.
See pani teadlased katsetama, kas usaldusväärsuse tajumine võib aidata inimestel tehispilte tuvastada. Kolmandas uuringus palusid nad osalejatel hinnata nägude usaldusväärsust, kuid avastasid, et sünteetiliste nägude keskmine hinnang oli 7.7% usaldusväärsem kui tegelike nägude keskmine hinnang. See arv ei pruugi tunduda suur, kuid teadlased väidavad, et see on statistiliselt oluline.
Deeper Fakes
Sügavad võltsingud olid juba suureks murekohaks ja nüüd on see uuring veed veelgi sogaseks muutnud, mis viitab sellele, et sellised kvaliteetsed võltspildid võivad anda näiteks veebipettustele täiesti uue mõõtme, aidates luua rohkem veenvad veebivõltsprofiilid.
"Ainuke asi, mis küberturvalisust juhib, on inimeste usaldus tehnoloogiate, protsesside ja inimeste vastu, kes püüavad neid turvaliselt hoida," jagas Wieringa. "Sügavad võltsingud, eriti kui need muutuvad fotorealistlikuks, õõnestavad seda usaldust ja seega ka küberjulgeoleku omaksvõttu ja aktsepteerimist. See võib viia inimeste umbusaldamiseni kõige suhtes, mida nad tajuvad."
Chris Hauk, Pixeli privaatsuse tarbijate privaatsuse meister, nõustus. Lühikeses meilivahetuses ütles ta Lifewire'ile, et fotorealistlik sügavvõlts võib võrgus "laastatust" tekitada, eriti tänapäeval, mil fotoga ID-tehnoloogia abil pääseb juurde igasugustele kontodele.
Parandusmeetmed
Õnneks ütleb Prosegur Security IoT direktor Greg Kuhn, et on olemas protsesse, mis võivad sellist petturlikku autentimist vältida. Ta ütles Lifewire'ile e-posti teel, et tehisintellektil põhinevad mandaadisüsteemid vastavad kinnitatud isikule loendile, kuid paljudel on sisseehitatud kaitsemeetmed, et kontrollida, kas see on elav.
"Seda tüüpi süsteemid võivad nõuda ja suunata kasutajat teatud toimingute sooritamiseks, nagu naeratus või pea pööramine vasakule või siis paremale. Need on asjad, mida staatiliselt genereeritud näod ei suuda täita," jagas Kuhn.
Teadlased on pakkunud välja suunised nende loomise ja levitamise reguleerimiseks, et kaitsta avalikkust sünteetiliste kujutiste eest. Alustuseks soovitavad nad lisada pildi- ja videosünteesivõrkudesse sügav alt juurdunud vesimärgid, et tagada kogu sünteetilise meedia usaldusväärse tuvastamine.
Siiani ütleb Comparitechi privaatsuse kaitsja ja infosec-uuringute toimetaja Paul Bischoff, et inimesed on omaette."Inimesed peavad õppima mitte usaldama nägusid võrgus, nagu me kõik oleme (loodetavasti) õppinud mitte usaldama kuvatavaid nimesid oma e-kirjades," ütles Bischoff e-posti teel Lifewire'ile.
