Sleutel wegneemetes
- Nuwe navorsing onthul mense kan nie KI-gegenereerde beelde van regte skei nie.
- Deelnemers het KI-gegenereerde beelde as meer betroubaar gegradeer.
- Kenners glo mense moet ophou om enigiets te vertrou wat hulle op die internet sien.
Die spreekwoord 'sien is glo' is nie meer relevant wanneer dit by die internet kom nie, en kenners sê dit gaan nie binnekort beter word nie.
'n Onlangse studie het bevind dat beelde van gesigte wat deur kunsmatige intelligensie (KI) gegenereer is, nie net hoogs fotorealisties was nie, maar dit het ook meer deugsaam as regte gesigte gelyk.
"Ons evaluering van die fotorealisme van KI-gesintetiseerde gesigte dui daarop dat sintese-enjins deur die verskriklike vallei gegaan het, en in staat is om gesigte te skep wat ononderskeibaar en meer betroubaar is as werklike gesigte," het die navorsers waargeneem.
Daardie persoon bestaan nie
Die navorsers, dr. Sophie Nightingale van Lancaster Universiteit en professor Hany Farid van die Universiteit van Kalifornië, Berkeley, het die eksperimente uitgevoer nadat hulle die goed-gepubliseerde dreigemente van diep vervalsings erken het, wat wissel van alle vorme van aanlynbedrog tot verkwikkende disinformasieveldtogte.
"Miskien die skadelikste is die gevolg dat, in 'n digitale wêreld waarin enige beeld of video vervals kan word, die egtheid van enige ongerieflike of onwelkome opname bevraagteken kan word," het die navorsers aangevoer.
Hulle het aangevoer dat hoewel daar vordering was met die ontwikkeling van outomatiese tegnieke om diep-valse inhoud op te spoor, huidige tegnieke nie doeltreffend en akkuraat genoeg is om tred te hou met die konstante stroom nuwe inhoud wat aanlyn opgelaai word nie. Dit beteken dit is aan die verbruikers van aanlyninhoud om die werklike van die vals uit te sorteer, stel die duo voor.
Jelle Wieringa, 'n advokaat vir sekuriteitsbewusmaking by KnowBe4, het ingestem. Hy het per e-pos aan Lifewire gesê dat dit uiters moeilik is om werklike diep vervalsings self te bestry sonder gespesialiseerde tegnologie. "[Versagtende tegnologieë] kan duur en moeilik wees om in intydse prosesse te implementeer, en 'n diep valsheid word dikwels eers ná die feit opgespoor."
Met hierdie aanname het die navorsers 'n reeks eksperimente uitgevoer om te bepaal of menslike deelnemers die nuutste gesintetiseerde gesigte van regte gesigte kan onderskei. In hul toetse het hulle gevind dat ten spyte van opleiding om vervalsings te help herken, die akkuraatheidkoers net verbeter het tot 59%, vanaf 48% sonder opleiding.
Dit het die navorsers laat toets of persepsies van betroubaarheid mense kan help om kunsmatige beelde te identifiseer. In 'n derde studie het hulle deelnemers gevra om die betroubaarheid van die gesigte te beoordeel, net om te ontdek dat die gemiddelde gradering vir sintetiese gesigte 7 was.7% meer betroubaar as die gemiddelde gradering vir regte gesigte. Die getal klink dalk nie na veel nie, maar die navorsers beweer dit is statisties betekenisvol.
Dieper Valse
Diep vervalsings was reeds 'n groot bekommernis, en nou is die waters verder deur hierdie studie vertroebel, wat daarop dui dat sulke hoë-geh alte vals beelde 'n hele nuwe dimensie aan aanlyn swendelary kan gee, byvoorbeeld deur te help om meer te skep oortuigende aanlyn vals profiele.
"Die een ding wat kuberveiligheid dryf, is die vertroue wat mense het in die tegnologieë, prosesse en mense wat probeer om hulle veilig te hou," het Wieringa gedeel. "Diep vervalsings, veral wanneer dit fotorealisties word, ondermyn hierdie vertroue en dus die aanvaarding en aanvaarding van kuberveiligheid. Dit kan daartoe lei dat mense wantrouig raak oor alles wat hulle sien."
Chris Hauk, kampioen vir verbruikersprivaatheid by Pixel Privacy, het ingestem. In 'n kort e-poswisseling het hy aan Lifewire gesê dat fotorealistiese diep vervalsing aanlyn "verwoesting" kan veroorsaak, veral deesdae wanneer toegang tot alle soorte rekeninge verkry kan word met behulp van foto-ID-tegnologie.
Regstellende aksie
Gelukkig sê Greg Kuhn, Direkteur van IoT, Prosegur Security, dat daar prosesse is wat sulke bedrieglike verifikasie kan vermy. Hy het per e-pos aan Lifewire gesê dat KI-gebaseerde geloofstelsels 'n geverifieerde individu teen 'n lys pas, maar baie het voorsorgmaatreëls ingebou om na te gaan vir "lewendheid."
"Hierdie tipe stelsels kan 'n gebruiker vereis en lei om sekere take uit te voer, soos glimlag of draai jou kop na links, dan regs. Dit is dinge wat staties-gegenereerde gesigte nie kon verrig nie," het Kuhn gedeel.
Die navorsers het riglyne voorgestel om hul skepping en verspreiding te reguleer om die publiek teen sintetiese beelde te beskerm. Om mee te begin, stel hulle voor dat diep ingeburgerde watermerke in die beeld- en videosintesenetwerke self ingesluit word om te verseker dat alle sintetiese media betroubaar geïdentifiseer kan word.
Tot dan sê Paul Bischoff, privaatheidsadvokaat en redakteur van infosec-navorsing by Comparitech, mense is op hul eie."Mense sal moet leer om nie gesigte aanlyn te vertrou nie, net soos ons almal (hopelik) geleer het om nie vertoonname in ons e-posse te vertrou nie," het Bischoff per e-pos aan Lifewire gesê.
