Sleutel wegneemetes
- Maatskappye gebruik toenemend KI wat verduidelik hoe dit resultate kry.
- LinkedIn het onlangs sy intekening-inkomste verhoog nadat hy KI gebruik het wat voorspel het dat kliënte die risiko loop om te kanselleer en beskryf hoe dit tot sy gevolgtrekkings gekom het.
- Die Federale Handelskommissie het gesê dat KI wat nie verklaarbaar is nie, ondersoek kan word.
Een van die gewildste nuwe tendense in sagteware kan kunsmatige intelligensie (KI) wees wat verduidelik hoe dit sy resultate bereik.
Verklaarbare KI betaal vrugte af namate sagtewaremaatskappye KI meer verstaanbaar probeer maak. LinkedIn het onlangs sy intekeninginkomste verhoog nadat hy KI gebruik het wat voorspel het dat kliënte die risiko loop om te kanselleer en beskryf hoe dit tot sy gevolgtrekkings gekom het.
"Verduidelikbare KI gaan daaroor om die uitset te vertrou en te verstaan hoe die masjien daar gekom het," het Travis Nixon, die uitvoerende hoof van SynerAI en hoofdatawetenskap, finansiële dienste by Microsoft, in 'n e-posonderhoud aan Lifewire gesê.
""Hoe?" is 'n vraag wat aan baie KI-stelsels gestel word, veral wanneer besluite geneem word of uitsette gelewer word wat nie ideaal is nie, "het Nixon bygevoeg. "Van die behandeling van verskillende rasse onregverdig om 'n kaalkop vir 'n sokker te beskou, moet ons weet hoekom KI-stelsels hul resultate lewer. Sodra ons die 'hoe' verstaan, posisioneer dit maatskappye en individue om 'wat volgende?' te antwoord."
Leer KI ken
AI het bewys akkuraat en maak baie soorte voorspellings. Maar KI is dikwels in staat om te verduidelik hoe dit tot sy gevolgtrekkings gekom het.
En reguleerders neem kennis van die KI verklaarbaarheidsprobleem. Die Federale Handelskommissie het gesê dat KI wat nie verklaarbaar is nie, ondersoek kan word. Die EU oorweeg die aanvaarding van die Wet op Kunsmatige Intelligensie, wat vereistes insluit dat gebruikers KI-voorspellings kan interpreteer.
Linkedin is een van die maatskappye wat dink verklaarbare KI kan help om wins te verhoog. Voorheen het LinkedIn-verkopers op hul kennis staatgemaak en groot hoeveelhede tyd spandeer om deur vanlyn data te sif om te identifiseer watter rekeninge waarskynlik sou voortgaan om sake te doen en in watter produkte hulle dalk sou belangstel tydens die volgende kontrakhernuwing. Om die probleem op te los, het LinkedIn 'n program genaamd CrystalCandle begin wat neigings raaksien en verkoopsmense help.
In nog 'n voorbeeld het Nixon gesê dat tydens die skepping van 'n kwota-bepalingsmodel vir 'n maatskappy se verkoopsmag, sy maatskappy in staat was om verklaarbare KI in te sluit om te identifiseer watter kenmerke dui op 'n suksesvolle nuwe verkoopsaanstelling.
"Met hierdie uitset was hierdie maatskappy se bestuur in staat om te herken watter verkoopsmense op die 'vinnige baan' moes plaas en watter afrigting nodig gehad het, alles voordat enige groot probleme ontstaan het," het hy bygevoeg.
Baie gebruike vir verklaarbare KI
Verklaarbare KI word tans gebruik as 'n gut check vir die meeste datawetenskaplikes, het Nixon gesê. Die navorsers voer hul model deur eenvoudige metodes, maak seker daar is niks heeltemal buite werking nie, stuur dan die model.
"Dit is deels omdat baie datawetenskap-organisasies hul stelsels rondom 'tyd oor waarde' as 'n KPI geoptimaliseer het, wat tot oorhaastige prosesse en onvolledige modelle gelei het," het Nixon bygevoeg.
Ek is bekommerd dat die terugslag van onverantwoordelike modelle die KI-industrie op 'n ernstige manier kan terugstel.
Mense word dikwels nie oortuig deur resultate wat KI nie kan verduidelik nie. Raj Gupta, die hoofingenieursbeampte by Cogito, het in 'n e-pos gesê dat sy maatskappy klante ondersoek het en gevind het dat byna die helfte van verbruikers (43%) 'n meer positiewe persepsie van 'n maatskappy en KI sou hê as maatskappye meer eksplisiet oor hul gebruik sou wees. van die tegnologie.
En dit is nie net finansiële data wat 'n helpende hand van verklaarbare KI kry nie. Een gebied wat by die nuwe benadering baat vind, is beelddata, waar dit maklik is om aan te dui watter dele van 'n beeld die algoritme dink noodsaaklik is en waar dit maklik is vir 'n mens om te weet of daardie inligting sin maak, Samantha Kleinberg, 'n medeprofessor by Stevens Instituut vir Tegnologie en 'n kenner in verklaarbare KI, het per e-pos aan Lifewire gesê.
"Dit is baie moeiliker om dit te doen met 'n EKG of deurlopende glukosemonitordata," het Kleinberg bygevoeg.
Nixon het voorspel dat verklaarbare KI die basis van elke KI-stelsel in die toekoms sou wees. En sonder verduidelikbare KI kan die resultate verskriklik wees, het hy gesê.
"Ek hoop ons vorder op hierdie front ver genoeg om verklaarbare KI in die komende jare as vanselfsprekend te aanvaar en dat ons terugkyk op daardie tyd vandag verbaas dat enigiemand mal genoeg sou wees om modelle te ontplooi wat hulle nie verstaan het nie, " hy het bygevoeg."As ons nie die toekoms op hierdie manier tegemoetgaan nie, is ek bekommerd dat die terugslag van onverantwoordelike modelle die KI-industrie op 'n ernstige manier kan terugstel."
