Sleutel wegneemetes
- AI en masjienleeralgoritmes hou menslike gedrag dop en kan leer om dit te manipuleer, sê kenners.
- Navorsers het onlangs 'n manier geskep om kwesbaarhede te vind en te ontgin in die maniere waarop mense keuses maak deur KI te gebruik.
- Die mees gesofistikeerde sosiale media-algoritme tans is TikTok, sê een waarnemer.
Kunsmatige intelligensie (KI) en masjienleeralgoritmes leer toenemend hoe om gebruikers se gedrag te beïnvloed, sê kenners.
Navorsers by Australië se nasionale wetenskap-agentskap het onlangs 'n manier geskep om kwesbaarhede te vind en te ontgin in die maniere waarop mense keuses maak deur KI te gebruik. Die jongste navorsing is net een van 'n golf van KI-gedrewe stelsels wat ontwerp is om menslike besluitneming te manipuleer.
"Daar is geen einde aan die baie maniere waarop KI reeds gedrag beïnvloed nie," Kentaro Toyama, 'n professor aan die Universiteit van Michigan Skool vir Inligting en skrywer van Geek Heresy: Rescuing Social Change from the Cult of Technology, het in 'n e-posonderhoud gesê.
"Om die waarheid te sê, as jy al ooit 'n Google-soektog gedoen het en 'n skakel opgevolg het, is jy geraak deur 'n KI-stelsel wat jou belangstellings geraai het en resultate opgelewer het wat volgens hom die relevantste vir jou was."
KI vs. Mense
In die Australiese navorsing wat in 'n onlangse koerant gepubliseer is, het menslike deelnemers speletjies teen 'n rekenaar gespeel in verskeie eksperimente. Die eerste eksperiment het deelnemers laat klik op rooi- of bloukleurige blokkies om geld te wen.
Die KI was ongeveer 70% van die tyd suksesvol, het die deelnemer se keusepatrone geleer en hulle na 'n spesifieke keuse gelei.
In 'n ander eksperiment het deelnemers 'n skerm gekyk en 'n knoppie gedruk wanneer hulle 'n spesifieke simbool gewys is, of het dit nie gedruk wanneer 'n ander een aangebied is nie. Die KI het geleer om die simbole te herrangskik, so die deelnemers het meer foute gemaak.
Die resultaat van die eksperimente, het navorsers tot die gevolgtrekking gekom, was dat KI uit deelnemers se antwoorde geleer het. Die masjien het toe kwesbaarhede in mense se besluitneming geïdentifiseer en geteiken. In werklikheid kan die KI deelnemers manipuleer om spesifieke aksies te maak.
Die feit dat KI of masjienleer mense kan manipuleer, behoort geen verrassing te wees nie, sê waarnemers.
"KI beïnvloed ons gedrag elke dag," het Tamara Schwartz, assistent-professor in kuberveiligheid en besigheidsadministrasie by York College of Pennsylvania, in 'n e-posonderhoud gesê.
"Ons hoor heeltyd van die algoritmes in sosiale media-toepassings soos Facebook of Twitter. Hierdie algoritmes rig ons aandag op verwante inhoud en skep die 'eggokamer'-effek, wat weer ons gedrag beïnvloed."
TikTok kyk
Die mees gesofistikeerde sosiale media-algoritme tans is TikTok, het Schwartz gesê. Die toepassing ontleed waarin jy belangstel, hoe lank jy iets kyk en hoe vinnig jy iets oorslaan, en verfyn dan sy aanbiedinge om jou te laat kyk.
"TikTok is baie meer verslawend as ander platforms as gevolg van hierdie KI-algoritme, wat verstaan waarvan jy hou, hoe jy leer en hoe jy inligting kies," het sy bygevoeg. "Ons weet dit omdat die gemiddelde tyd wat gebruikers op TikTok spandeer 52 minute is."
Die manipulasie van menslike gedrag deur kunsmatige intelligensie kan positiewe gebruike hê, het Chris Nicholson, uitvoerende hoof van die KI-maatskappy Pathmind, in 'n e-posonderhoud aangevoer. Openbare gesondheidsagentskappe kan byvoorbeeld KI gebruik om mense aan te moedig om beter besluite te neem.
"Sosiale media, videospeletjievervaardigers, adverteerders en outoritêre regimes soek egter maniere om mense aan te spoor om besluite te neem wat nie in hul beste belang is nie, en dit sal hulle nuwe gereedskap gee om dit te doen," het hy bygevoeg.
Die etiese kwessies met KI wat gedrag beïnvloed, is dikwels van graad, het Toyama gesê. KI laat gefokusde advertensies toe waarin individuele voorkeure en swakhede uitgebuit kan word.
"Dit is byvoorbeeld moontlik vir 'n KI-stelsel om mense te identifiseer wat probeer ophou rook en om hulle te peper met aanloklike sigaretadvertensies," het hy bygevoeg.
Nie almal stem saam dat KI-manipulasie van menslike gedrag problematies is nie. Klassieke sielkunde en KI neem albei data waar, het Jason J. Corso, direkteur van die Stevens Institute for Artificial Intelligence, in 'n e-posonderhoud uitgewys.
"Menslike wetenskaplikes is waarskynlik beter om waarnemings te veralgemeen en teorieë van menslike gedrag te distilleer wat wyer toepaslik kan wees, terwyl die KI-modelle meer vatbaar sou wees om probleemspesifieke nuanses te identifiseer," het Corso gesê.
"Uit 'n etiese oogpunt sien ek nie 'n verskil tussen hierdie nie."
