Võtmed kaasavõtmiseks
- Uus tarkvaratööriist võimaldab AI-l jälgida Interneti-kommentaarides vihakõnet.
- AI on vajalik Interneti-sisu modereerimiseks, kuna materjali hulk ületab inimvõime.
- Kuid mõned eksperdid ütlevad, et kõne tehisintellekti jälgimine tekitab privaatsusprobleeme.
Kui võrgus vihakõne kasvab, ütleb üks ettevõte, et tal võib olla lahendus, mis ei sõltu inimmoderaatoritest.
Käivitus nimega Spectrum Labs pakub tehisintellekti tehnoloogiat platvormi pakkujatele mürgiste vahetuste reaalajas tuvastamiseks ja sulgemiseks. Kuid eksperdid ütlevad, et tehisintellekti jälgimine tõstatab ka privaatsusprobleeme.
"AI jälgimine nõuab sageli aja jooksul esinevate mustrite vaatamist, mis nõuab andmete säilitamist, " ütles David Moody, turvalisuse ja privaatsuse vastavushindamisettevõtte Schellmani vanemteadur Lifewire'ile. "Need andmed võivad sisaldada andmeid, mis on seadusega märgitud privaatsusandmetena (isikut tuvastav teave või PII)."
Rohkem vihakõnet
Spectrum Labs lubab kõrgtehnoloogilist lahendust igivanale vihakõne probleemile.
"Aitame platvormidel keskmiselt 50% vähendada sisu modereerimise pingutusi ja suurendada mürgise käitumise tuvastamist 10 korda," väidab ettevõte oma veebisaidil.
Spectrum ütleb, et töötas koos uurimisinstituutidega, kellel on eriteadmised konkreetsete kahjulike käitumiste kohta, et luua üle 40 käitumise tuvastamise mudeli. Ettevõtte Guardiani sisu modereerimise platvormi lõi andmeteadlaste ja moderaatorite meeskond, et "toetada kogukondade kaitsmist toksilisuse eest."
Kasvab vajadus viiside järele, kuidas võidelda vihakõnega, kuna inimesel on võimatu jälgida igat võrguliiklust. Dylan Fox, AssemblyAI tegevjuht. AssemblyAI on kõnetuvastust pakkuva idufirma, mille kliendid on kaasatud vihkamise jälgimisse. kõne, ütles Lifewire'ile meiliintervjuus.
"Ainuüksi Twitteris on päevas umbes 500 miljonit säutsu," lisas ta. "Isegi kui üks inimene saaks säutsu iga 10 sekundi järel kontrollida, peaks twitter selle jaoks tööle võtma 60 tuhat inimest. Selle asemel kasutame protsessi automatiseerimiseks nutikaid tööriistu, nagu AI."
Erinev alt inimesest võib tehisintellekt töötada ööpäevaringselt ja potentsiaalselt olla õiglasem, kuna see on loodud oma reeglite ühtseks kohaldamiseks kõikidele kasutajatele ilma, et isiklikud veendumused sekkuksid, ütles Fox. Samuti on kulu neile inimestele, kes peavad sisu jälgima ja modereerima.
"Nad võivad kokku puutuda vägivalla, vihkamise ja õelate tegudega, mis võivad kahjustada inimese vaimset tervist," ütles ta.
Spectrum ei ole ainus ettevõte, mis püüab võrgus vihakõnet automaatselt tuvastada. Näiteks Center Malaysia käivitas hiljuti veebijälgija, mis on loodud Malaisia netikontide seas vihakõne leidmiseks. Nende väljatöötatud tarkvara, mida nimetatakse Tracker Benciks, kasutab masinõpet vihakõne tuvastamiseks võrgus, eriti Twitteris.
Väljakutse seisneb selles, kuidas luua ruume, kus inimesed saavad üksteisega tõeliselt konstruktiivselt suhelda.
Privaatsusprobleemid
Kuigi sellised tehnilised lahendused nagu Spectrum võivad võrgus vihakõne vastu võidelda, tekitavad need küsimusi ka selle kohta, kui palju peaksid arvutite kontrollimisega tegelema.
Sõnavabadusega kaasnevad tagajärjed, kuid mitte ainult kõnelejatele, kelle postitused vihakõnena eemaldatakse, ütles Santa Clara ülikooli Markkula rakenduseetika keskuse Interneti-eetika direktor Irina Raicu Lifewire'ile e-kirjas. intervjuu.
"Sõnavabaduse nimel ahistamise lubamine on ajendanud sellise kõne sihtmärke (eriti kui see on suunatud konkreetsetele isikutele) lõpetama rääkimise - loobuma täielikult erinevatest vestlustest ja platvormidest," ütles Raicu."Väljakutse seisneb selles, kuidas luua ruume, kus inimesed saavad üksteisega tõeliselt konstruktiivselt suhelda."
AI kõne jälgimine ei tohiks tekitada privaatsusprobleeme, kui ettevõtted kasutavad jälgimise ajal avalikult kättesaadavat teavet, ütles Fox. Kui aga ettevõte ostab probleemsete kasutajate eeltuvastamiseks üksikasju selle kohta, kuidas kasutajad teistel platvormidel suhtlevad, võib see tekitada privaatsusprobleeme.
"See võib olenev alt rakendusest kindlasti olla natuke hall ala," lisas ta.
Justin Davis, Spectrum Labsi tegevjuht, ütles Lifewire'ile e-kirjas, et ettevõtte tehnoloogia suudab sekundi murdosa jooksul läbi vaadata 2–5 tuhat andmerida. "Kõige tähtsam on see, et tehnoloogia võib vähendada mürgise sisu hulka, millega inimeste moderaatorid kokku puutuvad," ütles ta.
Võime olla AI revolutsiooni tipul, mis jälgib inimeste kõnet ja teksti võrgus. Moody ütles, et tulevased edusammud hõlmavad paremaid sõltumatuid ja autonoomseid jälgimisvõimalusi, et tuvastada varem tundmatud vihakõne vormid või muud tsenseeritavad mustrid, mis arenevad.
AI suudab peagi tuvastada konkreetsete kõnemustrite mustreid ning seostada allikaid ja nende muid tegevusi uudiste analüüsi, avalike dokumentide, liiklusmustrite analüüsi, füüsilise jälgimise ja paljude muude võimaluste abil, lisas ta.
Kuid mõned eksperdid väidavad, et vihakõne jälgimiseks peavad inimesed alati arvutiga töötama.
"AI üksi ei tööta," ütles Raicu. "Seda tuleb tunnistada üheks ebatäiuslikuks tööriistaks, mida tuleb kasutada koos teiste vastustega."
Parandus 25.01.2022: Lisatud Justin Davise tsitaat 5. lõigu lõpust, et kajastada avaldamisjärgset meili.
