Sleutel wegneemetes
- Nuwe navorsing dui daarop dat daar dalk geen manier is om superslim kunsmatige intelligensie te beheer nie.
- 'n Joernaalartikel voer aan dat die beheer van KI baie meer gevorderde tegnologie sal vereis as wat ons tans besit.
- Sommige kenners sê dat werklik intelligente KI gouer hier kan wees as wat ons dink.
As mense ooit superslim kunsmatige intelligensie ontwikkel, is daar dalk geen manier om dit te beheer nie, sê wetenskaplikes.
AI is lank reeds voorgehou as óf 'n kuur vir die mensdom se probleme óf 'n Terminator-styl apokalips. Tot dusver het KI egter nie naby aan selfs menslike vlak intelligensie gekom nie. Maar om 'n leiband op gevorderde KI te hou, kan 'n te ingewikkelde probleem vir mense wees as dit ooit ontwikkel word, volgens 'n onlangse artikel wat in die Journal of Artificial Intelligence Research gepubliseer is.
"'n Super-intelligente masjien wat die wêreld beheer, klink soos wetenskapfiksie," het Manuel Cebrian, een van die koerant se mede-outeurs, in 'n nuusverklaring gesê.
"Maar daar is reeds masjiene wat sekere belangrike take onafhanklik verrig sonder dat programmeerders ten volle verstaan hoe hulle dit aangeleer het. Die vraag ontstaan dus of dit een of ander tyd onbeheerbaar en gevaarlik vir die mensdom kan word."
Kom binnekort na 'n superrekenaar naby jou
Die tydskrifartikel voer aan dat die beheer van KI baie meer gevorderde tegnologie sal vereis as wat ons tans besit.
In hul studie het die span 'n teoretiese inperkingsalgoritme bedink wat verseker dat 'n superintelligente KI onder geen omstandighede mense kan benadeel nie, deur eers die gedrag van die KI te simuleer en dit te stop as dit as skadelik beskou word. Maar die skrywers het gevind dat so 'n algoritme nie gebou kan word nie.
"As jy die probleem afbreek na basiese reëls van teoretiese rekenaarwetenskap, blyk dit dat 'n algoritme wat 'n KI sal beveel om nie die wêreld te vernietig nie, sy eie bedrywighede per ongeluk kan stop." Iyad Rahwan, direkteur van die Sentrum vir Mense en Masjiene by die Max Planck Instituut vir Menslike Ontwikkeling in Duitsland, het in die nuusverklaring gesê.
"As dit gebeur het, sou jy nie weet of die inperkingsalgoritme nog besig is om die bedreiging te ontleed nie, en of dit opgehou het om die skadelike KI te bevat. Dit maak in werklikheid die inperkingsalgoritme onbruikbaar."
Werklik intelligente KI kan gouer hier wees as wat ons dink, argumenteer Michalis Vazirgiannis, 'n rekenaarwetenskapprofessor aan École Polytechnique in Frankryk. "KI is 'n menslike artefak, maar dit is vinnig besig om 'n outonome entiteit te word," het hy in 'n e-pos aan Lifewire gesê.
"Die kritieke punt sal wees as/wanneer singulariteit voorkom (d.w.s. wanneer KI-agente bewussyn as 'n entiteit sal hê) en daarom sal hulle aanspraak maak op onafhanklikheid, selfbeheer en uiteindelike oorheersing."
The Singularity is Coming
Vazirgiannis is nie alleen in die voorspelling van die naderende koms van super KI nie. Ware gelowiges in die KI-bedreiging praat graag oor die "singulariteit", wat Vazirgiannis verduidelik die punt is dat KI menslike intelligensie sal vervang en "dat KI-algoritmes moontlik hul bestaan sal besef en selfsugtig en samewerkend sal begin optree."
Volgens Ray Kurzweil, Google se direkteur van ingenieurswese, sal die singulariteit voor die middel van die 21ste eeu aanbreek. "2029 is die konsekwente datum wat ek voorspel het vir wanneer 'n KI 'n geldige Turing-toets sal slaag en dus menslike vlakke van intelligensie sal bereik," het Kurzweil aan Futurism gesê.
As ons nie ons eie huis kan skoonmaak nie, watter kode is ons veronderstel om KI te vra om te volg?
"Ek het die datum 2045 vir die 'Singularity' vasgestel, wat is wanneer ons ons effektiewe intelligensie 'n biljoen vou sal vermenigvuldig deur saam te smelt met die intelligensie wat ons geskep het."
Maar nie alle KI-kenners dink dat intelligente masjiene 'n bedreiging is nie. Die KI wat onder ontwikkeling is, is meer geneig om nuttig te wees vir geneesmiddelontwikkeling en toon geen werklike intelligensie nie, het KI-konsultant Emmanuel Maggiori in 'n e-posonderhoud gesê. "Daar is 'n groot hype rondom KI, wat dit laat klink asof dit regtig revolusionêr is," het hy bygevoeg. "Huidige KI-stelsels is nie so akkuraat soos gepubliseer nie, en maak foute wat 'n mens nooit sal maak nie."
Neem beheer van KI, nou
Om KI te reguleer sodat dit nie ons beheer vryspring nie, kan moeilik wees, sê Vazirgiannis. Maatskappye, eerder as regerings, beheer die hulpbronne wat KI aandryf. "Selfs die algoritmes self word gewoonlik vervaardig en in die navorsingslaboratoriums van hierdie groot en kragtige, gewoonlik multinasionale entiteite ontplooi," het hy gesê.
"Dit is dus duidelik dat state se regerings al hoe minder beheer het oor die hulpbronne wat nodig is om KI te beheer."
Sommige kenners sê dat mense rekenaarhulpbronne en elektriese krag sal moet bestuur om superintelligente KI te beheer. "Wetenskapfiksieflieks soos The Matrix maak profesieë oor 'n distopiese toekoms waar mense deur KI as bio-kragbronne gebruik word," het Vazirgiannis gesê.
"Selfs al is daar afgeleë onmoontlikhede, moet die mensdom seker maak dat daar voldoende beheer is oor die rekenaarhulpbronne (d.w.s. rekenaarklusters, GPU's, superrekenaars, netwerke/kommunikasie), en natuurlik die kragsentrales wat elektrisiteit verskaf wat absoluut is nadelig vir die funksie van KI."
Die probleem met die beheer van KI is dat navorsers nie altyd verstaan hoe sulke stelsels hul besluite neem nie, het Michael Berthold, die medestigter en uitvoerende hoof van die datawetenskapsagtewarefirma KNIME, in 'n e-posonderhoud gesê. "As ons dit nie doen nie, hoe kan ons dit 'beheer'?"
Hy het bygevoeg, "Ons verstaan nie wanneer 'n totaal ander besluit geneem word op grond van, vir ons, irrelevante insette nie."
Die enigste manier om die risiko van die gebruik van KI te beheer, is om te verseker dat dit net gebruik word wanneer daardie risiko hanteerbaar is, het Berthold gesê. "Anders gestel, twee uiterste voorbeelde: Moenie KI in beheer van jou kernkragsentrale plaas waar 'n klein fout katastrofiese newe-effekte kan hê nie," het hy bygevoeg.
"Aan die ander kant, KI voorspel of jou kamertemperatuur 'n bietjie op of af aangepas moet word, kan wel die klein risiko werd wees vir die voordeel van lewensgerief."
As ons nie KI kan beheer nie, moet ons dit beter maniere leer, het die voormalige NASA-rekenaaringenieur Peter Scott in 'n e-posonderhoud gesê. "Ons kan uiteindelik nie die beheerbaarheid van KI verseker net so min as wat ons dié van ons kinders kan verseker nie," het hy gesê.
"Ons maak hulle reg en hoop vir die beste; tot dusver het hulle nie die wêreld vernietig nie. Om hulle goed groot te maak, het ons 'n beter begrip van etiek nodig; as ons nie ons eie huis kan skoonmaak nie, wat kode is ons veronderstel om KI te vra om te volg?"
Maar alle hoop is nie verlore vir die menslike ras nie, sê KI-navorser Yonatan Wexler, die uitvoerende vise-president van R&D by OrCam. "Terwyl vooruitgang inderdaad indrukwekkend is, is my persoonlike oortuiging dat menslike intelligensie nie onderskat moet word nie," het hy in 'n e-posonderhoud gesê. "Ons as 'n spesie het nogal wonderlike dinge geskep, insluitend KI self."
Die soektog na steeds slimmer KI duur voort. Maar dit is dalk beter om te oorweeg hoe ons ons skeppings beheer voordat dit te laat is.
