Sleutel wegneemetes
- YouTube se outomatiese ouderdomsbeperkende sagteware is rede tot kommer vir LGBTQ+-inhoud op die platform.
- Die maatskappy is ontsier deur kontroversie oor LGBTQ+-inhoudskeppers wat twyfel bevestig.
- Vooroordele in masjienleer verleen geloofwaardigheid aan die idee dat die onvolmaakte implementering daarvan van filters waarskynlik toegang onregverdig sal beperk.
Met 'n geskiedenis van onregverdige teiken van LGBTQ+-inhoudskeppers in sy modereringsproses, word YouTube se nuwe KI-gebaseerde tegnologie gesien as 'n kommerwekkende volgende stap vir die tegnologiereus.
Op die amptelike YouTube-blog verlede week het die videodeelplatform planne onthul om 'n nuwe outomatiese sagteware vry te stel om "ouderdomsbeperkings meer konsekwent toe te pas" op video's wat as onvanpas geag word vir jonger kykers.
Gemotiveer deur onlangse kommer oor kinders op die toepassing, is die nuwe stelsel gebaseer op masjienleer van kunsmatige intelligensie-sagteware met die vermoë om menslike moderators te laat vaar vir 'n meer outomatiese proses. Die kwessie? YouTube se outomatiese stelsels is daarvan beskuldig dat hulle LGBTQ+-inhoud en skeppers bloot uitsonder vir bestaande.
Selfs al is dit nie kwaadwillig nie, wat ek nie dink dit is nie, is dit 'n gebrek aan insette van diverse stemme - of ten minste 'n gebrek aan respek.
"Masjineleer word ingelig deur en geskep deur mense, en dit is moontlik om daardie vooroordele inherent daaraan te hê of deur die masjien self geleer te word," het YouTuber Rowan Ellis in 'n telefoononderhoud met Lifewire gesê. “Die vooroordeel daarvan met betrekking tot [LGBTQ+]-inhoud was duidelik in die vorige ervarings van [LGBTQ+] YouTubers, en ek het nie bewyse gesien dat enigiets gedoen is om te keer dat dit gebeur nie."
Baba, nou het ons slegte bloed
Ellis is 'n YouTuber wat opvoedkundige inhoud skep met 'n feministiese en vreemde geaardheid, en in 2017 het sy 'n video oor die maatskappy se beperkte modus gepubliseer. As 'n aanvanklike poging tot outomatiese inhoudmoderering, het hierdie modus gebruikers in staat gestel om "potensieel volwasse inhoud" opsioneel vanaf soekvoorstelle en -aanbevelings vooraf te skerm.
Met meer as 100 000 kyke, glo sy dat daar 'n doelbewuste poging was om haar kanaal van beperking te verhinder weens haar vokale teenkanting teen die buitensporighede van YouTube se nuwe stap in die rigting van moderering. Ander gebruikers op die platform was nie so gelukkig nie, en hulle het YouTube dit laat weet.
'n Klasgeding-geding teen YouTube is in Augustus 2019 deur 'n groep van agt LGBTQ+-skeppers aanhangig gemaak wat die Silicon Valley-maatskappy daarvan beskuldig het dat hulle vreemde en trans-videovervaardigers en inhoud beperk. Die regsgeding beweer die webwerf gebruik "onwettige inhoudregulering, verspreiding en monetiseringspraktyke wat die LGBT-eisers en die groter LGBT-gemeenskap stigmatiseer, beperk, blokkeer, demonetiseer en finansieel benadeel."Dit maak steeds sy pad deur die Kaliforniese howe.
Masjineleer word ingelig deur en geskep deur mense, en dit is moontlik om daardie vooroordele inherent daaraan te hê of deur die masjien self aangeleer te word.
In Junie van dieselfde jaar het die platform 'n stortvloed media-aandag ontvang nadat hy geweier het om die gewilde konserwatiewe kommentator Steven Crowder vinnig te berispe vir 'n maande lange, homofobiese teisteringsveldtog teen die Vox-joernalis en gasheer Carlos Maza. Dit bevestig wat Ellis gesê het 'n patroon is met die aanlyn platform om die unieke uitdagings wat vreemde skeppers in die gesig staar, te ignoreer. LGBTQ+-skeppers se gebrek aan geloof in YouTube se vermoë om vir hulle op te daag, is nie sonder meriete nie.
"Ek dink nie hulle het die behoefte verstaan dat daar deursigtigheid moet wees ten opsigte van sosiale kwessies en om gelykheid te verseker nie," het sy gesê. “Daar is steeds kinders regoor die wêreld wat grootgeword het met die idee dat gay-wees verkeerd is, en wanneer hulle daardie oortuiging begin bevraagteken, maar vind dit gesluit deur’n veilige soektog of beperking, sal dit hierdie idee versterk dat dit is verkeerd, onvanpas, volwasse, pervers en vuil."
Versuim om outomaties te leer
Met sy belaglike geskiedenis met betrekking tot LGBTQ+-inhoudskeppers op sy platform, doem daar steeds kommer oor die implementering van die masjienleersagteware se vermoë om groter norme te onderskei. Don Heider, Uitvoerende Direkteur by die Markkula Sentrum vir Toegepaste Etiek, stel voor die potensiaal vir dwaasheid is 'n te groot risiko om te dobbel.
"Dit is moeilik om te glo dat KI inhoud van verskeie lande met verskillende kulturele norme en standaarde effektief kan beheer," het hy in 'n e-posonderhoud geskryf. "KI word te dikwels gesien as die antwoord op komplekse vrae. Op hierdie stadium sukkel KI en die manier waarop dit geskep word om selfs eenvoudige take te hanteer, wat nog te sê van enige inhoudmoderering met enige vlak van kompleksiteit."
YouTube het besluit op die gebruik van KI-tegnologie weens 'n gebrek aan konsekwente moderering deur menslike moderators, volgens sy blog. Die verhoging van sy gebruik van gerekenariseerde filters om video's wat as onvanpas geag word af te haal, het die norm geword, en die implementering van dieselfde prosedures vir sy ouderdomsbeperkingsbeleide word as 'n logiese volgende stap gesien.
As 'n maatskappy wat sy prosesse geleidelik wil verbeter na langdurige kritiek rakende sy verhouding met kinderverbruikers, kom hierdie besluit nie as 'n verrassing nie.
Ek dink nie hulle het die behoefte verstaan dat daar deursigtigheid ten opsigte van sosiale kwessies en die versekering van gelykheid moet wees nie.
Kinders het 'n sleuteldemografie vir die video-deelwebwerf geword. In Augustus het die digitale video-ontledingsfirma Tubular bevind dat, afgesien van musiekvideo's, inhoud wat op kinders gerig is, boaan die maandeindlys was vir video's wat die meeste gekyk word op YouTube.
Die maatskappy se belangstelling in die beskerming van hierdie winsgewende, opkomende kragstasie op die platform maak sin. Die gereedskap wat gebruik word om hierdie beskerming af te dwing, bly egter ongemaklik vir diegene wat hulle reeds stroomaf van die maatskappy se modereringsprosedures bevind het.
"My bekommernis is dat dit baie skade sal aanrig en nie [LGBTQ+]-jeugdes sal beskerm wat insiggewende, eerlike en eerlike inhoud nodig het wat baie [LGBTQ+] YouTubers kan verskaf, maar in sy stelsel gemerk word as onvanpas,” het Ellis gesê."Selfs al is dit nie kwaadwillig nie, wat ek nie dink dit is nie, is dit 'n gebrek aan insette van diverse stemme - of ten minste 'n gebrek aan respek.
"Ons sien dit heeltyd in tegnologie. Wanneer jy kyk na gesigsherkenning wat nie verskillende swart gesigte onderskei nie, of wanneer ons na medisyne kyk en sien dat medikasie net op 'n spesifieke geslag getoets is. Hierdie is groter gesprekke, en YouTube is nie daarvan vrygestel nie."