Võtmed kaasavõtmiseks
- Algoritmiline eelarvamus on kahjulik teismelistele, kes veedavad palju aega Internetis, väidavad eksperdid.
- Twitteri kasutajad puutusid hiljuti kokku probleemiga, mille tõttu mustad näod valiti valgete kasuks.
- Teismeliste arenev aju võib olla eriti vastuvõtlik algoritmilise kallutatuse kahjulikele mõjudele, väidavad teadlased.
Mõninga tehnoloogiaga seotud eelarvamus, mida nimetatakse algoritmiliseks eelarvamuseks, võib olla kahjulik paljudele rühmadele, kuid ekspertide sõnul on see eriti kahjulik teismelistele.
Algoritmiline eelarvamus, kui arvutisüsteemid näitavad eelarvamuslikke tulemusi, on kasvav probleem. Twitteri kasutajad leidsid hiljuti platvormi kallutatuse näite, kui fotosid kärpiv pildituvastusalgoritm lõikas mustad näod valgete kasuks välja. Ettevõte vabandas probleemi pärast, kuid pole veel parandust välja andnud. Eksperdid ütlevad, et see on näide eelarvamusest, millega teismelised Internetis kokku puutuvad, mida nad teevad rohkem kui ükski teine vanuserühm.
"Enamik teismelisi ei tea, et sotsiaalmeedia ettevõtetel on need loodud selleks, et reklaamida konkreetset sisu, mis nende arvates kasutajatele meeldiks [et], et panna nad platvormil võimalikult kauaks püsima," ütles dr Mai- Ly Nguyen Steers, Duquesne'i ülikooli õenduskooli dotsent, kes uurib sotsiaalmeedia kasutamist noorukite/kolledži üliõpilaste seas, ütles meiliintervjuus.
"Isegi kui algoritmi suhtes ollakse mingil määral teadlikud, on ebapiisav alt meeldimiste ja kommentaaride saamine siiski võimas ja võib mõjutada teismeliste enesehinnangut," lisas Steers.
Aju arendamine
Algoritmiline eelarvamus võib teismelisi ettenägematul viisil mõjutada, kuna nende prefrontaalne ajukoor alles areneb, selgitas Rootstrapi peaandmeteadlane Mikaela Pisani meiliintervjuus.
Ei saada piisav alt meeldimisi ja kommentaare, on endiselt võimas ja see võib mõjutada teismeliste enesehinnangut.
"Teismelised on eriti haavatavad sotsiaalse tehase fenomeni suhtes, kus algoritmid loovad veebiplatvormidel ühiskondlikke klastreid, mis põhjustavad ärevust ja depressiooni, kui teismeliste sotsiaalse heakskiidu vajadusi ei rahuldata," ütles Pisani. "Algoritmid lihtsustavad varasemate ebatäiuslike andmete põhjal, mis viib stereotüüpide üleesitamiseni identiteedi kujundamise nüansirikkamate lähenemisviiside arvelt.
"Laiemast vaatenurgast lähtudes jääme ühiskonnana küsima, kas me tahame algoritme, mis kujundaksid meie teismeliste teekonda täiskasvanueas, ja kas see süsteem isegi toetab, mitte ei summutab individuaalset isiklikku kasvu?"
Nende probleemide tõttu on kasvav vajadus pidada algoritmide kavandamisel silmas teismelisi, väidavad eksperdid.
"Arenguspetsialistide, andmeteadlaste ja noorte eestkõnelejate panuse põhjal võiks 21. sajandi poliitikat andmete privaatsuse ja algoritmilise disaini kohta koostada ka noorukite erivajadusi silmas pidades," ütles doktorant Avriel Epps-Darling. Harvardi üliõpilane, kirjutas hiljuti. "Kui me jätkame selle asemel, et vähendame või ignoreerime viise, kuidas teismelised on algoritmilise rassismi suhtes haavatavad, kajavad kahjud tõenäoliselt läbi järgmiste põlvkondade."
Võitlus eelarvamusega
Kuni lahendust pole leitud, püüavad mõned teadlased leida viise, kuidas kallutatud algoritmidega noortele tekitatud kahju vähendada.
"Sekkumised on keskendunud sellele, et teismelised mõistaksid, et nende sotsiaalmeedia mustrid mõjutavad negatiivselt nende vaimset tervist, ja püütakse leida strateegiaid selle leevendamiseks (nt sotsiaalmeedia kasutamise vähendamine), " ütles Steers.
"Mõned meie intervjueeritud kolledži üliõpilased on märkinud, et nad on sunnitud looma sisu, et jääda "asjakohaseks", isegi kui nad ei taha välja minna ega postitada," jätkas ta. "Kuid nad tunnevad, et peavad oma jälgijate või sõpradega sidemete säilitamiseks looma sisu."
Lõplik vastus võiks olla inimeste eelarvamuste eemaldamine arvutitest. Kuid kuna programmeerijad on ainult inimesed, on see raske väljakutse, väidavad eksperdid.
Üks võimalik lahendus on töötada välja arvutid, mis on detsentraliseeritud ja programmeeritud unustama õpitu, ütleb robootikafirma KODA tehnoloogiadirektor John Suit.
"Detsentraliseeritud võrgu kaudu koostatakse ja analüüsitakse andmeid ja nende andmete analüüsi mitmest punktist, " ütles Suit meiliintervjuus. „Andmeid kogutakse ja töödeldakse mitte ühest AI meeletöötlusest selle algoritmi piires, vaid sadu või isegi tuhandeid.
"Andmete kogumisel ja analüüsimisel unustatakse vanad "järeldused" või üleliigsed andmed. Selle süsteemi kaudu parandab ja asendab algoritm, mis võis alguse saada eelarvamusest, kui see valeks osutub."
Kuigi eelarvamus võib olla igivana probleem, võib selle vastu võitlemiseks leida viise, vähem alt võrgus. Arvutite kujundamine, mis heidavad meie eelarvamusi, on esimene samm.
