Võtmed kaasavõtmiseks
- ToxMod, Bostonis asuv ettevõte Modulate, väidab, et tuvastab häiriva kõne ja tegutseb selle vastu automaatselt, reaalajas.
- Selle asemel, et olla piiratud lihtsa keelega, kasutab ToxMod masinõpet, et välja selgitada sellised immateriaalsed väärtused nagu emotsioonid, helitugevus ja rütm.
- ToxMod on praegu mõeldud kasutamiseks mängusiseste jututubadega, kuid pole põhjust, miks see ei saaks teie Twitchi kanalile tulla.
Bostonis asuv ettevõte kasutab masinõpet, et luua maailma esimene häälpõhise modereerimisteenus, mis suudab öelda vahet sellel, mida see tähendab.
ToxMod on katse lahendada paradoksi mis tahes avatud ruumi modereerimine Internetis; Inimesi pole piisav alt, et nõudlusega sammu pidada, kuid algoritmid, filtrid ja aruandesüsteem ei mõista nüansse.
ToxModi andmebaasiga saab see jälgida mängijate kõnes esinevaid tegureid, nagu emotsioonid ja helitugevus, mis aitab eristada hetkelist katkestust käitumismustrist. Hiljuti teatati sellest kui täiendusest 7v7 Ameerika jalgpalli mängule Gridiron, mis on praegu Steam Early Accessis.
"Kõik teavad, et ahistamine, vihakõne ja toksilisus häälvestluses ja mängudes on tohutu probleem. Seda mõistetakse üldiselt," ütles Carter Huffman, tehnoloogiajuht ja Modulate kaasasutaja Google'i koosolekul Lifewire. "Me võiksime võtta funktsioonid, mida me mitmesuguste masinõppesüsteemide kaudu ammutasime, ja liita need süsteemiks, mis võttis arvesse kõiki neid ekspertteadmisi, mida me kogukonn alt õppisime."
Tervita kõiki meie uusi robotmoderaatoreid
Modulate on ToxModi kallal töötanud alates eelmisest sügisest ja lisanud selle ühe ettevõtte kolmest põhiteenusest. Samuti pakub see masinõppel töötavat häälevarjajat VoiceWeari ja koondamisteenust VoiceVibe, mis võimaldab kasutajatel teada saada, mida nende kogukonna inimesed arutavad.
Kui ToxMod töötab vestluses, saab selle programmeerida mooduli administraatoripaneeli kaudu mitmesuguste automaatsete toimingute tegemiseks, nagu hoiatuste väljastamine, mängijate vaigistamine või helitugevuse individuaalne reguleerimine.
See kasutab triaažisüsteemi, kus selle kohalik eksemplar on esimene, kes tegutseb, enne kui mooduli serveritest kinnitust küsib. Seejärel eskaleerub see lõpuks punktini, kus see võib nõuda inimese sekkumist. Läbides iga kontrolli kordamööda, mida Modulate nimetab "triaaživäravateks", on idee selles, et ToxMod annab väikesele moderaatorite meeskonnale tööriistad palju suurema kogukonna tõhusaks modereerimiseks.
"Kurb tõde on see, et kõik on kogenud seda kogemust, püüdnud kasutada häälvestlust ükskõik millisel platvormil ja avastanud, et, poiss, see oli halb mõte," ütles mooduli tegevjuht Mike Pappas videokõne Lifewire'iga. "Võimalus siseneda ja öelda: "See pole metsik lääs. Seal on reeglid." Ma arvan, et see on tõesti oluline."
Süsteemi purustamine
Loomulikult on teine või kolmas küsimus, mida ToxModi kohta küsida, kuidas seda murda.
Paljude automaatsete modereerimissüsteemidega, nagu Twitterit reguleerivad algoritmid, on lihtne neid inimestega mängida, kes teile ei meeldi. Lihts alt teatage oma sihtmärgist mõne sokinuku kontoga ja nad söövad usaldusväärselt keelu.
"Algtasemel ei pea ToxMod nendele täiendavatele mängijate aruannetele tuginema, " ütles Pappas. "See suudab endiselt anda kindlaid hinnanguid selle kohta, millistele kuritegudele peame [tähelepanu pöörama]. Te ei pea muretsema selle pärast, et mängijad üritavad süsteemi mängida, sest tegelikult pole midagi mängida.
Kõik teavad, et ahistamine, vihakõne ja toksilisus häälvestluses ja mängudes on suur probleem.
"Kõik, mida te mängijana saate juhtida, on teie enda heli," jätkas Pappas. "Halvim, mida saate teha, on olla inimese suhtes vähem halb, et me ei märgitaks teid halva näitlejana, mis on minu sõnul missiooni õnnestumisele lähedane."
Üldiselt on ToxModi idee aktiivne taastamiskatse. Paljud mängijad on praegusel hetkel kogenud mingit ahistamist juhuslike võõraste poolt avatud häälekanalites, alates juhuslikest solvangutest kuni aktiivsete ähvardusteni. Seetõttu kipuvad mängijad häälvestlusest üldiselt eemale hoidma, eelistades oma meelerahu eest loobuda selle mugavusest.
"Me ootame, et [halvad näitlejad veedavad] palju vähem aega häälvestluses, enne kui meid leitakse ja eemaldatakse," ütles Pappas."Sellel on rohkem kui lihts alt lineaarne mõju. Kui kõik näevad häälvestlust turvalisema kohana, on rohkem häid näitlejaid valmis häälvestlusesse tagasi tulema ja proovima. Ma arvan, et kõik võib positiivses suunas liikuda."
