Sleutel wegneemetes
- Die KI-stelsel genaamd DALL-E2 het blykbaar sy eie stelsel van geskrewe kommunikasie geskep.
- Sommige kenners sê dat die oënskynlike taal dalk net brabbeltaal is.
- Dis 'n voorbeeld van hoe moeilik dit is om die resultate van gevorderde KI-stelsels te interpreteer.
Dit lyk of Kunsmatige Intelligensie (KI) sy eie taal ontwikkel het, maar sommige kenners is skepties oor die bewering.
OpenAI se teks-na-beeld KI-stelsel genaamd DALL-E2 blyk sy eie stelsel van geskrewe kommunikasie te skep. Dit is 'n voorbeeld van hoe moeilik dit is om die resultate van gevorderde KI-stelsels te interpreteer.
"As gevolg van die grootte en diepte van groot modelle, is dit baie moeilik om modelgedrag te verduidelik," het Teresa O'Neill, die direkteur van oplossingsargitektuur vir natuurlike taalbegrip by iMerit, in 'n e-posonderhoud aan Lifewire gesê. "Dit is een van die kernuitdagings, en in sommige gevalle, etiese kwessies met toenemend kragtige modelle. As ons nie kan verduidelik hoekom hulle optree soos hulle doen nie, kan ons hul gedrag voorspel of dit in lyn met ons norme en verwagtinge hou?"
KI-klets
Rekenaarwetenskapstudent Giannis Daras het onlangs opgemerk dat die DALLE-2-stelsel, wat beelde skep gebaseer op teksinvoer, onsin woorde as teks onder sekere omstandighede sal terugstuur.
"'n Bekende beperking van DALLE-2 is dat dit sukkel met teks," het hy geskryf in 'n artikel wat op die voordrukbediener Arxiv gepubliseer is. "Byvoorbeeld, teksaanwysings soos: ''n Beeld van die woord vliegtuig' lei dikwels tot gegenereerde beelde wat brabbelteks uitbeeld."
Maar, het Daras geskryf, daar is dalk 'n metode agter die oënskynlike brabbeltaal. "Ons ontdek dat hierdie vervaardigde teks nie lukraak is nie, maar eerder 'n verborge woordeskat openbaar wat die model blykbaar intern ontwikkel het," het hy voortgegaan. "Wanneer die model byvoorbeeld met hierdie brabbelteks gevoer word, vervaardig die model gereeld vliegtuie."
In sy twiet het Daras daarop gewys dat toe DALLE-2 gevra is om 'n gesprek tussen twee boere te ondertitel, dit gewys het dat hulle praat, maar die spraakborrels is gevul met wat na onsinnige woorde gelyk het. Maar Daras het ontdek dat die woorde wel hul eie betekenis vir die KI het: die boere het oor groente en voëls gepraat.
Nicola Davolio, die HUB van die tegnologiemaatskappy Hupry, wat met KI werk, het in 'n e-posonderhoud aan Lifewire verduidelik dat die taal gebaseer is op simbole wat die DALL-E2-stelsel geleer het om met sekere konsepte te assosieer. Byvoorbeeld, die simbool vir "hond" kan verband hou met 'n hond se prent, terwyl die simbool vir "kat" met 'n prent van 'n kat geassosieer kan word. DALL-E2 het sy taal geskep omdat dit dit in staat stel om meer effektief met ander KI-stelsels te kommunikeer.
Raaisels soos die oënskynlik versteekte woordeskat van DALL-E2 is lekker om mee te worstel, maar dit beklemtoon ook swaarder vrae…
"Die taal is saamgestel uit simbole wat soos Egiptiese hiërogliewe lyk en blykbaar geen spesifieke betekenis het nie," het hy bygevoeg. "Die simbole is waarskynlik betekenisloos vir mense, maar hulle maak perfek sin vir die KI-stelsel aangesien dit op miljoene beelde opgelei is."
Navorsers glo dat die KI-stelsel die taal geskep het om dit te help om die verhoudings tussen beelde en woorde beter te verstaan, het Davolio gesê.
"Hulle is nie seker hoekom die KI-stelsel sy taal ontwikkel het nie, maar hulle vermoed dat dit dalk iets te doen het met hoe dit leer om beelde te skep," het Davolio bygevoeg. “Dit is moontlik dat die KI-stelsel sy taal ontwikkel het om kommunikasie tussen verskillende netwerkdele doeltreffender te maak."
AI Mysteries
DALL-E2 is nie die enigste KI-stelsel wat sy interne taal ontwikkel het nie, het Davolio uitgewys. In 2017 het Google se AutoML-stelsel 'n nuwe vorm van neurale argitektuur geskep wat 'n 'kindnetwerk' genoem word nadat hy oorgelaat is om te besluit hoe om 'n gegewe taak die beste te voltooi. Hierdie kindernetwerk kon nie deur sy menslike skeppers geïnterpreteer word nie.
"Hierdie voorbeelde is net 'n paar gevalle waarin KI-stelsels maniere ontwikkel het om dinge te doen wat ons nie kan verduidelik nie," het Davolio gesê. "Dit is 'n opkomende verskynsel wat in gelyke mate fassinerend en kommerwekkend is. Soos KI-stelsels meer kompleks en outonoom word, kan ons onsself toenemend in die posisie bevind dat ons nie verstaan hoe hulle werk nie."
O'Neill het gesê dat sy nie dink dat DALL-E2 sy eie taal skep nie. In plaas daarvan het sy gesê die rede vir die oënskynlike linguistiese uitvinding is waarskynlik 'n bietjie meer prosaïes.
"Een geloofwaardige verduideliking is 'n toevallige kans - in 'n model wat so groot is, kan 'n bietjie van Murphy's Law van toepassing wees: as 'n vreemde ding kan gebeur, sal dit waarskynlik gebeur," het O'Neill bygevoeg. Nog 'n moontlikheid wat deur navorsingsontleder Benjamin Hilton voorgestel word in 'n Twitter-draad wat Daras se bevindings bespreek, is dat die vorm van die frase "apoploe vesrreaitais" die vorm van 'n Latynse naam vir 'n dier naboots. Die stelsel het dus 'n nuwe orde van Aves voortgebring, het O'Neill bygevoeg.
"Raaisels soos die oënskynlik verborge woordeskat van DALL-E2 is lekker om mee te worstel, maar dit beklemtoon ook swaarder vrae oor die risiko, vooroordeel en etiek in die dikwels ondeurgrondelike gedrag van groot modelle," het O'Neill gesê.
