Sleutel wegneemetes
- 'n Sagtewaremaatskappy samel na berig word sosialemedia-inligting in om profiele te skep wat gebruik kan word om mense te identifiseer wat sekuriteitsrisiko's inhou.
- Voyager Labs het 'n beduidende ooreenkoms met 'n Japannese regeringsagentskap gesluit.
- Maar kenners waarsku dat KI-voorspellingsagteware geflous kan word.
Jou aanlyn inligting kan gebruik word om te voorspel of jy dalk 'n misdaad kan pleeg.
Voyager Labs samel glo sosiale media-inligting in om profiele te skep wat gebruik kan word om mense te identifiseer wat sekuriteitsrisiko's inhou. Dit is deel van 'n groeiende poging om kunsmatige intelligensie (KI) te gebruik om potensiële misdadigers te ondersoek. Maar sommige kenners sê dat die beweging wemel van potensiële probleme.
"Dit is baie moeilik om menslike gedrag te voorspel," het Matthew Carr, 'n sekuriteitsnavorser by Atumcell Group, in 'n e-posonderhoud aan Lifewire gesê. "Ons is nie eers in staat om ons eie gedrag te voorspel nie, wat nog te sê van iemand anders s'n. Ek dink dit is moontlik dat KI in die toekoms vir hierdie doel gebruik kan word, maar ons is 'n lang pad daarvan om dit tans te kan doen."
Skep profiele
Soos The Guardian onlangs berig het, het die Los Angeles-polisiedepartement ondersoek ingestel na die gebruik van Voyager Lab se misdaadvoorspellingsagteware. Die maatskappy het ook aangekondig dat hy 'n beduidende ooreenkoms met 'n Japannese regeringsagentskap gesluit het.
Die Japannese ooreenkoms voorsien die regeringsagentskap van 'n KI-gebaseerde ondersoekplatform wat massiewe hoeveelhede inligting van enige bron ontleed, insluitend oop en diep data.
"Ek is bly dat ons saamwerk in die stryd teen terreur en misdaad," het Divya Khangarot, Besturende Direkteur APAC by Voyager Labs, in die nuusverklaring gesê. "Deur Voyager Lab se voorpunt-intelligensie-oplossings te gebruik, kry ons kliënte unieke vermoëns om potensiële bedreigings proaktief te identifiseer en te ontwrig. Ons bring addisionele lae diep ondersoekende insigte deur 'n kombinasie van KI, Masjienleer en OSINT te gebruik om versteekte roetes, oortredende inligting te ontbloot, en slegte akteurs."
Nie so slim nie?
Maar in 'n e-posonderhoud het Matt Heisie, die medestigter van Ferret.ai, wat ook KI gebruik om oortreders te voorspel, sommige van die bewerings van Voyager Labs in twyfel getrek.
"Is daar 'n duidelike verband tussen byvoorbeeld 'n arrestasierekord en toekomstige kriminele gedrag, soos wat daar 'n swart kol op 'n toets en die ontwikkeling van 'n gewas is?" hy het gesê. “Dink aan al die moontlike verwarring wat in daardie arrestasie ingegaan het – in watter buurt die persoon gewoon het, die hoeveelheid en kwaliteit, selfs vooroordele, van die polisie in daardie area. Die persoon se ouderdom, hul geslag, hul fisiese voorkoms, almal het 'n impak op die waarskynlikheid dat daardie persoon 'n arrestasierekord sal hê, heeltemal geskei van hul werklike geneigdheid om die misdaad te pleeg wat ons probeer voorspel."
Verweerders met beter prokureurs sal meer geneig wees om rekords te onderdruk om publiek beskikbaar te word, het Heisie gesê. Sommige jurisdiksies beperk die vrystelling van mugshots of arrestasierekords om die beskuldigde te beskerm.
"Die rekenaar sal leer op grond van die data wat jy dit gee en al die vooroordele insluit wat in daardie data-insameling ingesluit is …"
"Dit alles voeg verdere vooroordeel by die algoritmes," het hy bygevoeg. "Die rekenaar sal leer op grond van die data wat jy dit gee en al die vooroordele wat in daardie data-insameling ingesluit is in die leer en die interpretasie inkorporeer."
Daar was verskeie pogings om misdaad te skep wat KI's voorspel, en met dikwels skandalige resultate, het Heisie gesê.
COMPAS, 'n algoritme wat wetstoepassing gebruik om heroortredings te voorspel, word dikwels gebruik om vonnisoplegging en borgtog te bepaal. Dit het 'n skandaal in die gesig gestaar wat teruggaan na 2016 weens rassevooroordeel, wat voorspel het dat swart beskuldigdes 'n groter risiko van herhaling inhou as wat hulle werklik gedoen het, en die omgekeerde vir wit beskuldigdes.
Meer as 1 000 tegnoloë en geleerdes, insluitend akademici en KI-kundiges van Harvard, MIT, Google en Microsoft, het in 2020 uitgespreek teen 'n referaat wat beweer dat navorsers 'n algoritme ontwikkel het wat misdadigheid kan voorspel wat uitsluitlik op 'n persoon se gesig en sê dat die publisering van sulke studies bestaande rassevooroordeel in die strafregstelsel versterk, het Heisie opgemerk.
China is die grootste en vinnigste groeiende mark vir hierdie tipe tegnologie, hoofsaaklik as gevolg van wydverspreide toegang tot private data, met meer as 200 miljoen toesigkameras en gevorderde KI-navorsing wat vir baie jare op hierdie kwessie gefokus is, het Heisie gesê. Stelsels soos CloudWalk se Polisiewolk word nou gebruik om misdadigers te voorspel en op te spoor en wetstoepassing vas te stel.
"Aansienlike vooroordele word egter ook daar gerapporteer," het Heisie gesê.
Heisie het bygevoeg dat sy maatskappy die data wat ingaan noukeurig saamstel en nie mugshots of arrestasierekords gebruik nie, "fokus eerder op meer objektiewe kriteria."
"Ons KI het uit die saamgestelde data geleer, maar meer belangrik, dit leer ook van mense, wat self rekords analiseer, saamstel en evalueer, en ons vertel van hul interaksies met ander," het hy bygevoeg. "Ons handhaaf ook volle deursigtigheid en gratis en publieke toegang tot ons toepassing (so vinnig as wat ons hulle in beta kan laat), en verwelkom insig in ons prosesse en prosedures."
