Sleutel wegneemetes
- ToxMod, deur Boston-gebaseerde maatskappy Modulate, beweer dat ontwrigtende spraak outomaties, intyds, opspoor en daarteen optree.
- In plaas daarvan om deur eenvoudige taal beperk te word, gebruik ToxMod masjienleer om ontasbare dinge soos emosie, volume en ritme uit te vind.
- ToxMod is tans ontwerp vir gebruik met inspeletjie-kletskamers, maar daar is geen rede waarom dit nie na jou Twitch-kanaal kon kom nie.
'n Boston-gebaseerde maatskappy gebruik masjienleer om te skep wat dit faktureer as die wêreld se eerste stem-inheemse modereringsdiens, wat die verskil tussen wat gesê word en wat dit beteken kan vertel.
ToxMod is 'n poging om die paradoks op te los om enige oop ruimte op die internet te modereer; daar is nie genoeg mense om tred te hou met die vraag nie, maar algoritmes, filters en 'n verslagstelsel verstaan nie nuanse nie.
Met ToxMod se databasis kan dit faktore in spelers se spraak soos emosie en volume opspoor, wat dit help om te onderskei tussen 'n kortstondige verval en 'n gedragspatroon. Dit is onlangs aangekondig as 'n toevoeging tot die 7v7 Amerikaanse sokkerwedstryd Gridiron, tans in Steam Early Access.
"Almal weet dat teistering, haatspraak en toksisiteit in stemklets en speletjies 'n groot probleem is. Dit word algemeen verstaan," het Carter Huffman, hooftegnologiebeampte en medestigter van Modulate, in 'n Google-vergadering met Lifewire. "Ons kon die kenmerke wat ons onttrek deur hierdie verskeidenheid masjienleerstelsels neem en dit saamsmelt in 'n stelsel wat al hierdie kundige kennis wat ons van die gemeenskap geleer het, in ag geneem het."
Alle groet ons nuwe robotmoderators
Modulate werk sedert verlede herfs aan ToxMod en het dit as een van die maatskappy se drie kerndienste geïnkorporeer. Dit bied ook VoiceWear, 'n stemverbloemer wat deur masjienleer aangedryf word, en VoiceVibe, 'n aggregator-diens waarmee gebruikers kan uitvind wat die mense in hul gemeenskappe bespreek.
Wanneer ToxMod in 'n klets loop, kan dit via Modulate se administrasiepaneel geprogrammeer word om 'n verskeidenheid outomatiese aksies te neem, soos om waarskuwings uit te reik, spelers te demp of die volume individueel aan te pas.
Dit gebruik 'n stelsel van triage waar die plaaslike instansie die eerste is om op te tree, voordat dit met Modulate se bedieners gekontroleer word vir bevestiging. Dan eskaleer dit uiteindelik tot die punt waar dit vir menslike ingryping kan vra. Deur elke tjek om die beurt deur te loop, wat Modulate "triage-hekke" noem, is die idee dat ToxMod 'n klein span moderators die gereedskap gee om 'n veel groter gemeenskap effektief te modereer.
"Die hartseer waarheid is dat almal daardie ervaring gehad het, om stemklets te probeer gebruik op watter platform jy ook al was, en om te ontdek dat, seun, dit 'n slegte idee was," het Mike Pappas, uitvoerende hoof van Modulate, gesê. video-oproep met Lifewire. "Om te kan ingaan en sê: 'Dit is nie die Wilde Weste nie. Daar is reëls.' Ek dink dit is baie belangrik."
Breaking the System
Natuurlik is die tweede of derde vraag om oor ToxMod te vra hoe om dit te breek.
Met baie outomatiese modereringstelsels, soos die algoritmes wat Twitter beheer, is dit maklik om hulle te speel teen mense waarvan jy nie hou nie. Rapporteer net jou teiken met 'n paar sokkie-pop-rekeninge en hulle sal betroubaar 'n verbod eet.
"Op 'n basislynvlak hoef ToxMod nie op daardie bykomende spelerverslae staat te maak nie," het Pappas gesê. “Dit is steeds in staat om goeie ramings te lewer van watter oortredings ons moet [opgee]. Jy hoef nie bekommerd te wees oor spelers wat probeer om die stelsel te speel nie, want daar is nie regtig iets om te speel nie.
Almal weet dat teistering, haatspraak en toksisiteit in stemklets en speletjies 'n groot probleem is.
"Al waaroor jy as 'n speler beheer het, is jou eie klank," het Pappas vervolg. "Die ergste ding wat jy kan doen, is om minder sleg van 'n persoon te wees, sodat ons jou nie as 'n slegte akteur bestempel nie, wat ek sou sê iets naby aan sendingsukses is."
In die algemeen is die idee agter ToxMod 'n aktiewe herwinningspoging. Baie spelers het op hierdie stadium een of ander vorm van teistering van ewekansige vreemdelinge in oop stemkanale ervaar, wat wissel van willekeurige beledigings tot aktiewe dreigemente. As gevolg hiervan is gamers geneig om weg te skram vir stemklets in die algemeen, en verkies om die gerief daarvan prys te gee in ruil vir hul eie gemoedsrus.
"Wat ons verwag om te sien [is slegte akteurs wat baie minder tyd aan stemklets spandeer voordat hulle gevind en verwyder word," het Pappas gesê."Dit het meer as net 'n liniêre impak. Wanneer almal stemklets as 'n veiliger plek sien, is meer goeie akteurs bereid om terug te kom na stemklets en dit te probeer. Ek dink alles kan in 'n positiewe rigting spiraal."
