Võtmed kaasavõtmiseks
- AI ja masinõppe algoritmid jälgivad inimeste käitumist ja saavad õppida sellega manipuleerima, väidavad eksperdid.
- Teadlased lõid hiljuti viisi, kuidas leida ja ära kasutada turvaauke viisides, kuidas inimesed tehisintellekti kasutades valikuid teevad.
- Praegu on kõige keerukam sotsiaalmeedia algoritm TikTok, ütleb üks vaatleja.
Tehisintellekt (AI) ja masinõppe algoritmid õpivad üha enam, kuidas kasutajate käitumist mõjutada, väidavad eksperdid.
Austraalia riikliku teadusagentuuri teadlased lõid hiljuti viisi, kuidas leida ja ära kasutada haavatavusi viisides, kuidas inimesed tehisintellekti kasutades valikuid teevad. Viimased uuringud on vaid üks AI-põhiste süsteemide lainest, mis on loodud inimeste otsustusprotsessi manipuleerimiseks.
"Mitmetel viisidel, kuidas AI juba käitumist mõjutab, pole lõppu," ütles Kentaro Toyama, Michigani ülikooli teabekooli professor ja raamatu Geek Heresy: sotsiaalsete muutuste päästmine tehnoloogiakultusest autor., ütles meiliintervjuus.
"Tegelikult, kui olete kunagi Google'i otsingut teinud ja lingi järgi jälginud, mõjutas teid AI-süsteem, mis arvas ära teie huvid ja andis teile kõige asjakohasemaid tulemusi."
AI vs. inimesed
Hiljutises artiklis avaldatud Austraalia uuringus mängisid inimesed erinevates katsetes arvuti vastu. Esimeses katses klõpsasid osalejad raha võitmiseks punase või sinise värvi kastikesed.
AI oli edukas umbes 70% ajast, õppides osaleja valikumustreid ja suunates neid konkreetse valiku poole.
Teises katses jälgisid osalejad ekraani ja vajutasid nuppu, kui neile näidati teatud sümbolit, või ei vajutanud seda, kui neile pakuti teist sümbolit. AI õppis sümboleid ümber paigutama, nii et osalejad tegid rohkem vigu.
Uurijad järeldasid, et AI õppis osalejate vastustest. Seejärel tuvastas masin inimeste otsuste tegemisel haavatavad kohad ja sihiks neid. Tegelikult võib tehisintellekt osalejaid teatud toimingute tegemiseks manipuleerida.
Asjaolu, et tehisintellekt või masinõpe võib inimesi manipuleerida, ei tohiks olla üllatus, ütlevad vaatlejad.
"AI mõjutab meie käitumist iga päev," ütles Pennsylvania Yorki kolledži küberjulgeoleku ja ärijuhtimise dotsent Tamara Schwartz meiliintervjuus.
"Kuuleme kogu aeg sotsiaalmeediarakenduste, nagu Facebook või Twitter, algoritmidest. Need algoritmid suunavad meie tähelepanu seotud sisule ja loovad "kajakambri" efekti, mis omakorda mõjutab meie käitumist."
TikTok vaatab
Praegu on kõige keerukam sotsiaalmeedia algoritm TikTok, ütles Schwartz. Rakendus analüüsib, mis teid huvitab, kui kaua te midagi vaatate ja kui kiiresti midagi vahele jätate, seejärel täpsustab oma pakkumisi, et jääksite vaatama.
"TikTok tekitab palju rohkem sõltuvust kui teised platvormid tänu sellele tehisintellekti algoritmile, mis mõistab, mis teile meeldib, kuidas õpite ja kuidas teavet valite," lisas ta. "Me teame seda, kuna kasutajad veedavad TikTokis keskmiselt 52 minutit."
Inimkäitumisega manipuleerimisel tehisintellekti abil võib olla positiivset kasu, väitis tehisintellekti ettevõtte Pathmind tegevjuht Chris Nicholson meiliintervjuus. Näiteks võivad rahvatervise agentuurid kasutada tehisintellekti, et julgustada inimesi tegema paremaid otsuseid.
Sotsiaalmeedia, videomängude tegijad, reklaamijad ja autoritaarsed režiimid otsivad aga viise, kuidas innustada inimesi tegema otsuseid, mis ei ole nende huvides, ning see annab neile selleks uusi tööriistu, lisas ta.
Eetilised probleemid tehisintellekti käitumise mõjutamisel on sageli teatud määral, ütles Toyama. AI võimaldab keskendunud reklaamimist, mille puhul saab ära kasutada individuaalseid eelistusi ja nõrkusi.
"Näiteks AI-süsteemil on võimalik tuvastada inimesi, kes üritavad suitsetamisest loobuda, ja meelitada neid ahvatlevate sigaretireklaamidega," lisas ta.
Kõik ei nõustu sellega, et tehisintellektiga manipuleerimine inimkäitumisega on problemaatiline. Nii klassikaline psühholoogia kui ka tehisintellekt jälgivad andmeid, märkis Stevensi tehisintellekti instituudi direktor Jason J. Corso meiliintervjuus.
"Inimesteadlased oskavad ilmselt paremini üldistada tähelepanekuid ja destilleerida inimkäitumise teooriaid, mis võivad olla laiem alt rakendatavad, samas kui tehisintellekti mudelid suudaksid paremini tuvastada probleemispetsiifilisi nüansse," ütles Corso.
"Eetilisest vaatenurgast ei näe ma nende vahel erinevust."
