Sleutel wegneemetes
- Sagteware wat kunsmatige intelligensie gebruik om mense te profileer, wek kommer oor privaatheid.
- Cryfe kombineer gedragsontledingstegnieke met kunsmatige intelligensie.
- Die Chinese maatskappy Alibaba het onlangs kritiek in die gesig gestaar nadat hy glo gesê het dat sy sagteware Uighurs en ander etniese minderhede kan opspoor.
Nuwe sagteware aangedryf deur kunsmatige intelligensie wat bedoel is vir werkgewers om hul werknemers te profileer, wek kommer oor privaatheid.
Een nuwe sagtewareplatform, genaamd Cryfe, kombineer gedragsontledingstegnieke met kunsmatige intelligensie. Die ontwikkelaar beweer dat deur die ontleding van klein leidrade, die sagteware mense se bedoelings tydens onderhoude kan openbaar. Maar sommige waarnemers sê dat Cryfe en ander soorte sagteware wat gedrag ontleed privaatheid kan indring.
"Maatskappye maak toenemend staat op KI vir profilering," het die KI-kenner Vaclav Vincale in 'n e-posonderhoud gesê. "Maar selfs die mense wat hierdie algoritmes kodeer, nog minder 'n kliëntedienspersoon wat jy oor die telefoon bereik, kon nie vir jou sê hoekom hulle enige gegewe aanbeveling maak nie."
Meer as woorde
Cryfe is ontwikkel deur 'n Switserse maatskappy wie se werknemers deur die FBI opgelei is in profileringstegnieke. "Cryfe, in alle interpersoonlike kommunikasie, luister nie net na woorde nie, maar identifiseer ander seine wat deur die mens uitgestuur word, soos emosies, mikro-uitdrukkings en alle gebare," het Caroline Matteucci, die stigter van Cryfe, in 'n e-posonderhoud gesê.
"Tydens werwing, byvoorbeeld, laat dit ons toe om te gaan soek na die werklike persoonlikheid van ons gespreksgenoot."
Matteucci het gesê gebruikers se privaatheid word beskerm omdat die maatskappy deursigtig is oor hoe sy sagteware werk. "Die gebruiker, voordat hy die platform kan gebruik, moet die algemene voorwaardes aanvaar," het sy gesê.
"Dit word daar gespesifiseer dat die gebruiker in geen geval 'n onderhoud vir ontleding mag indien sonder dat hy die skriftelike toestemming van die gespreksgenoot ontvang het nie."
Cryfe is nie die enigste KI-aangedrewe sagteware wat voorgee om menslike gedrag te ontleed nie. Daar is ook Humantic, wat beweer dat hy verbruikersgedrag ontleed. "Humantic se baanbrekende tegnologie voorspel almal se gedrag sonder dat hulle ooit 'n persoonlikheidstoets hoef af te lê," volgens die maatskappy se webwerf.
Die maatskappy beweer dat hulle KI gebruik om aansoekers se sielkundige profiele te skep op grond van die woorde wat hulle in CV's, dekbriewe, LinkedIn-profiele en enige ander stukkie teks wat hulle indien, gebruik.
Gedragsagteware het in die verlede regsuitdagings ondervind. In 2019 het Bloomberg Law berig dat die Equal Employment Opportunity Commission (EEOC) na gevalle van beweerde onwettige diskriminasie as gevolg van algoritme-gesteunde, MH-verwante besluite gekyk het.
"Dit sal alles uitgewerk moet word, want die toekoms van werwing is KI," het die prokureur Bradford Newman aan Bloomberg gesê.
Sommige waarnemers het 'n probleem met maatskappye wat gedragsopsporingsagteware gebruik omdat dit nie akkuraat genoeg is nie. Nigel Duffy, wêreldwye kunsmatige intelligensie-leier by die professionele diensfirma EY, het in 'n onderhoud aan InformationWeek gesê dat hy ontsteld is oor sagteware wat sosiale media-vasvrae gebruik en affekteeropsporing gebruik.
"Ek dink daar is 'n paar baie dwingende literatuur oor die potensiaal vir affekte-detectie, maar my begrip is dat die manier wat dit dikwels geïmplementeer word, taamlik naïef is," het hy gesê.
"Mense maak afleidings wat die wetenskap nie regtig ondersteun nie [soos] om te besluit iemand is 'n potensieel goeie werknemer omdat hulle baie glimlag of besluit dat iemand van jou produkte hou omdat hulle baie glimlag."
Chinese maatskappye na bewering profielminderhede
Gedragsopsporing kan ook meer sinistere doeleindes hê, sê sommige menseregtegroepe. In China het die aanlynmarkreus Alibaba onlangs opskudding gemaak nadat hy glo beweer het dat sy sagteware Uighurs en ander etniese minderhede kan opspoor.
The New York Times het berig dat die maatskappy se wolkrekenaaronderneming sagteware het wat beelde en video's sou skandeer.
Maar selfs die mense wat hierdie algoritmes kodeer…kon nie vir jou sê hoekom hulle enige gegewe aanbeveling maak nie.
The Washington Post het ook onlangs berig dat Huawei, nog 'n Chinese tegnologiemaatskappy, sagteware getoets het wat wetstoepassers kan waarsku wanneer sy toesigkameras Uighur-gesigte bespeur.
'n 2018 patentaansoek deur Huawei het glo beweer dat die "identifikasie van voetganger-kenmerke baie belangrik is" in gesigsherkenningstegnologie."Die eienskappe van die teikenvoorwerp kan geslag (manlik, vroulik), ouderdom (soos tieners, middeljarige, oud) [of] ras (Han, Uyghur) wees," het die aansoek gesê.
'n Huawei-woordvoerder het aan CNN Business gesê dat die etnisiteit-identifikasiekenmerk "nooit deel van die toepassing moes geword het nie."
Die ontluikende gebruik van kunsmatige intelligensie om deur groot hoeveelhede data te sorteer, sal beslis kommer oor privaatheid veroorsaak. Jy sal dalk nooit weet wie of wat jou ontleed die volgende keer as jy vir 'n werksonderhoud gaan nie.
