Sleutel wegneemetes
- Amazon se Alexa-stemassistent kan 'n stem kopieer met so min as een minuut se oudio.
- Jy kan Alexa vra om 'n storie in die stem van 'n dooie ouer te lees.
- Dit is dieselfde idee as diep vervalsings, net gebruik vir die kragte van die goeie.
Amazon Alexa se nuutste foefie is om te leer om die stem van 'n gestorwe geliefde na te boots, sodat hulle van anderkant die graf met jou kan praat.
Alexa het net 'n minuut se gesproke oudio nodig om 'n stem oortuigend na te boots. Amazon beskou dit as 'n vertroostende kenmerk wat jou met geliefdes in aanraking kan bring, maar dit kan ook 'n taamlik grillerige ervaring wees. En dit wys hoe maklik dit is om diep vals klank te maak wat goed genoeg is om ons te flous, selfs wanneer die stem een is wat ons baie goed ken.
"Amazon het beslis 'n taamlik unieke en bisarre gebied betree met sy aankondiging dat Alexa binnekort die stem van dooie familielede sal kan leer en dan binnekort sal kan gebruik," het Bill Mann, privaatheidskenner by Restore Privacy, gesê Lifewire per e-pos. "Vir sommige mense is dit glad nie creepy nie. Trouens, dit kan nogal aangrypend wees."
Spook in die masjien
As deel van sy jaarlikse re:MARS-konferensie, wys Amazon die kenmerk in 'n kort video. Daarin vra 'n kind vir Alexa of ouma vir hom kan aanhou lees "The Wizard of Oz," elke kind se gunsteling keynote-vriendelike publieke domein werk. En dit is nogal 'n aangrypende oomblik. Dit is moeilik om nie menslike emosies te voel wanneer ouma begin lees nie.
"Mense sukkel met sterftes, veral in die Westerse kultuur. Vir eeue het ons probeer om maniere te vind om die dooies te herdenk, van doodsmaskers, tot haarlokke, tot ou foto's, tot ou flieks kyk," Andrew Selepak, 'n professor in sosiale media aan die Universiteit van Florida, het per e-pos aan Lifewire gesê. "Deepfakes gebruik die nuutste tegnologie om 'n nuwe doodsmasker van 'n afgestorwe geliefde te skep. Maar, afhangend van 'n mens se perspektief, is dit creepy of 'n manier om iemand wat jy liefhet te herdenk en vas te hou nadat hulle gesterf het?"
Maar 'n memento mori kan beide vertroostend en grillerig wees.’n Familielid se vriend is dood, maar jy kan hulle steeds hoor praat. Dit help nie Alexa het 'n geskiedenis van vreemde, en soms angswekkende, gedrag nie. In 2018, toe die NYT-meningsrubriekskrywer Farhad Manjoo in die bed klim, het sy Amazon Echo "begin huil, soos 'n kind wat skree in 'n gruwelfliekdroom."
Kort daarna het Amazon erken dat Alexa soms hardop gelag het, wat saam met tieners en kelders gruwelfliek 101 is.
'n Mens kan net wonder hoe jy dalk sal voel as Alexa dieselfde truuks in ouma se stem getrek het.
Deep Fake
Die oënskynlike gemak waarmee Alexa leer om 'n stem na te boots, lei ons tot meer onheilspellende gebruike van stemkloning: diep vervalsings.
"Deepfake klank is nie nuut nie, selfs al is dit min verstaan en min bekend. Die tegnologie is al jare beskikbaar om 'n individu se stem met kunsmatige intelligensie en diep leer te herskep deur relatief min werklike klank van die persoon te gebruik," sê Selepak. "Sulke tegnologie kan ook gevaarlik en vernietigend wees. 'n Versteurde individu kan die stem van 'n dooie eks-kêrel of meisie herskep en die nuwe klank gebruik om haatlike en seermaaklike dinge te sê."
Dis net in die konteks van Alexa. Diep vals klank kan veel verder gaan as dit, om mense te oortuig dat prominente politici byvoorbeeld dinge glo wat hulle nie glo nie. Maar aan die ander kant, hoe meer ons gewoond raak aan hierdie diep namaaksels - miskien in die vorm van hierdie Alexa-stemme - hoe meer sal ons skepties wees oor die meer afgryslike namaaksels. Dan weer, gegewe hoe maklik dit is om leuens op Facebook te versprei, miskien nie.
Amazon het nie gesê of hierdie kenmerk na Alexa kom of dat dit net 'n tegnologie-demo is nie. Ek hoop soort van dit doen. Tegnologie is op sy beste wanneer dit op 'n humanistiese manier soos hierdie gebruik word, en al is die maklike reaksie om dit creepy te noem, soos Selepak sê, is dit regtig nie soveel anders as om ou video's te kyk of na gestoorde stemboodskappe te luister nie, soos 'n karakter in 'n TV-program wat lui geskryf is.
En as die tegnologie vir diepe namaaksels geredelik beskikbaar is, hoekom gebruik dit nie om onsself te troos nie?
