Võtmed kaasavõtmiseks
- YouTube'i automaatne vanusepiirangu tarkvara tekitab platvormil LGBTQ+ sisu pärast muret.
- Ettevõtet on häirinud LGBTQ+ sisuloojatega seotud vaidlused, mis tugevdavad kahtlusi.
- Masinõppe eelarvamused annavad aluse ideele, et selle filtrite ebatäiuslik rakendamine piirab tõenäoliselt ebaõiglaselt juurdepääsu.
Kuna modereerimisprotsessis on LGBTQ+ sisuloojaid ebaõiglaselt sihitud, peetakse YouTube'i uut tehisintellektil põhinevat tehnoloogiat tehnoloogiahiiglase jaoks murettekitavaks järgmiseks sammuks.
Möödunud nädalal avalikustas videote jagamise platvorm ametlikus YouTube'i ajaveebis uue automaatse tarkvara, mis võimaldab "järjekindlam alt rakendada vanusepiiranguid" videotele, mida peetakse noorematele vaatajatele sobimatuks.
Ajendatuna hiljutisest murest seoses rakendusega seotud laste pärast, põhineb uus süsteem masinõppe tehisintellekti tarkvaral, mis võimaldab loobuda inimmoderaatoritest automaatsema protsessi jaoks. Küsimus? YouTube'i automatiseeritud süsteeme on süüdistatud LGBTQ+ sisu ja sisuloojate väljatoomises lihts alt olemasoleva jaoks.
Isegi kui see pole pahatahtlik, mida ma ei usu, on see erinevate häälte sisendi puudumine või vähem alt austuse puudumine.
"Masinõpet teavitavad ja loovad inimesed ning need eelarvamused võivad olla sellele omased või masin ise õpitud," ütles YouTuber Rowan Ellis Lifewire'ile antud telefoniintervjuus. "Selle kallutatus [LGBTQ+] sisu suhtes on ilmnenud [LGBTQ+] YouTube'i kasutajate varasemates kogemustes ja ma ei ole näinud tõendeid selle kohta, et selle juhtumise peatamiseks oleks midagi ette võetud."
Kallis, nüüd on meil halb veri
Ellis on YouTube'i kasutaja, kes loob feministliku ja veidra kalduvusega harivat sisu ning 2017. aastal avaldas ta video ettevõtte piiratud režiimi kohta. Sisu automaatse modereerimise esmaseks katseks võimaldas see režiim kasutajatel valikuliselt otsingusoovituste ja -soovituste põhjal eelsõeluda „potentsiaalselt täiskasvanutele mõeldud sisu”.
Kogudes üle 100 000 vaatamise, usub ta, et on tehtud teadlikke jõupingutusi, et välistada tema kanali piirangud, kuna ta oli häälekas vastuseisule YouTube'i uue sammu modereerimise suunas. Teistel platvormi kasutajatel ei vedanud ja nad andsid YouTube'ile sellest teada.
Kaheksast LGBTQ+ sisuloojast koosnev rühmitus esitas 2019. aasta augustis YouTube'i vastu ühishagi, kes süüdistas Silicon Valley ettevõtet queer- ja trans-videote tegijate ning sisu piiramises. Kohtuasjas väidetakse, et sait kasutab "ebaseaduslikke sisu reguleerimise, levitamise ja monetiseerimise tavasid, mis häbimärgistavad, piiravad, blokeerivad, demonetiseerivad ja kahjustavad rahaliselt LGBT hagejaid ja laiemat LGBT kogukonda."See liigub endiselt läbi California kohtute.
Masinõpet teavitavad ja loovad inimesed ning need eelarvamused võivad olla sellele omased või masin ise õpitud.
Sama aasta juunis pälvis platvorm meedia tulva tähelepanu pärast seda, kui ta keeldus kiiresti noomimast populaarset konservatiivkommentaatorit Steven Crowderit kuude pikkuse homofoobse ahistamiskampaania eest Voxi ajakirjaniku ja saatejuhi Carlos Maza vastu. See kinnitas Ellise sõnul veebiplatvormi mustri, mille kohaselt eiratakse kummaliste loojate ees seisvaid ainulaadseid väljakutseid. LGBTQ+ sisuloojate ebausk YouTube'i suutlikkust neile endile näidata ei ole alusetu.
"Ma ei usu, et nad on aru saanud sotsiaalsete küsimuste läbipaistvuse ja võrdsuse tagamise vajadusest," ütles ta. "Üle maailma on ikka veel lapsi, kes on üles kasvanud ideega, et geiks olemine on vale, ja kui nad hakkavad selles veendumuses kahtlema, kuid leiavad, et see on turvalise otsingu või piirangu tõttu suletud, tugevdab see seda ideed, et see on vale. on vale, sobimatu, täiskasvanud, perversne ja räpane."
Automaatse õppimise ebaõnnestumine
Kuna selle platvormil on LGBTQ+ sisuloojatega seotud kurb ajalugu, on endiselt murettekitav masinõppetarkvara võime tuvastada suuremaid norme. Markkula rakenduseetika keskuse tegevdirektor Don Heider arvab, et rumaluse potentsiaal on hasartmängude mängimiseks liiga suur risk.
"Raske on uskuda, et tehisintellekt suudab tõhus alt juhtida sisu erinevatest riikidest, kus on erinevad kultuurinormid ja standardid," kirjutas ta meiliintervjuus. "AI-ga nähakse liiga sageli vastust keerulistele küsimustele. Praegusel hetkel on tehisintellektil ja selle loomise viisil raske toime tulla isegi lihtsate ülesannetega, rääkimata mis tahes keerukusastmega sisu modereerimisest."
YouTube otsustas oma ajaveebi kohaselt kasutada tehisintellekti tehnoloogiat, kuna inimmoderaatorid ei järjepidev alt modereerinud. Arvutipõhiste filtrite kasutamise suurendamine sobimatuks peetud videote eemaldamiseks sai normiks ja samade protseduuride rakendamist oma vanusepiirangu poliitika jaoks peetakse järgmiseks loogiliseks sammuks.
Ettevõttena, kes soovib oma protsesse järk-järgult täiustada pärast pikaajalist kriitikat seoses tema suhtega lapstarbijatega, pole see otsus üllatus.
Ma arvan, et nad ei ole aru saanud sotsiaalsete küsimuste läbipaistvuse ja võrdsuse tagamise vajadusest.
Lastest on saanud videote jagamise saidi peamine demograafia. Augustis leidis digitaalvideoanalüüsi ettevõte Tubular, et peale muusikavideote on YouTube'is kuulõpu edetabeli esikohal ka lastele suunatud sisu.
Ettevõtte huvi kaitsta seda tulusat, platvormil tärkavat jõujaama on mõistlik. Selle kaitse jõustamiseks kasutatavad tööriistad on aga endiselt ebamugavad neile, kes on juba avastanud end ettevõtte modereerimisprotseduuridest allavoolu.
"Minu mure on, et see teeb palju kahju ega kaitse [LGBTQ+] noori, kes vajavad informatiivset, avameelset ja ausat sisu, mida paljud [LGBTQ+] YouTube'i kasutajad võivad pakkuda, kuid mille süsteemis märgitakse. nagu sobimatu," ütles Ellis."Isegi kui see pole pahatahtlik, mida ma ei usu, on see erinevate häälte sisendi puudumine või vähem alt austuse puudumine.
"Me näeme seda tehnikas pidev alt. Kui vaatate näotuvastust, mis ei suuda eristada erinevaid mustanahalisi nägusid, või kui me vaatame meditsiini ja näeme, et ravimeid on testitud ainult teatud sooga. on suuremad vestlused ja YouTube ei ole sellest vabastatud."
