Võtmed kaasavõtmiseks
- Tarkvaraettevõte kogub väidetav alt sotsiaalmeedia teavet, et luua profiile, mida saab kasutada turvariske kujutavate inimeste tuvastamiseks.
- Voyager Labs on sõlminud olulise tehingu Jaapani valitsusasutusega.
- Kuid eksperdid hoiatavad, et tehisintellekti ennustustarkvara võib petta.
Teie võrguteavet saab kasutada selleks, et ennustada, kas võite toime panna kuriteo.
Voyager Labs kogub väidetav alt sotsiaalmeedia teavet, et luua profiile, mida saab kasutada turvariske kujutavate inimeste tuvastamiseks. See on osa kasvavatest püüdlustest kasutada tehisintellekti (AI) potentsiaalsete kurjategijate uurimiseks. Kuid mõned eksperdid väidavad, et liikumine on täis võimalikke probleeme.
"Inimeste käitumist on väga raske ennustada," ütles Atumcell Groupi turvateadlane Matthew Carr Lifewire'ile meiliintervjuus. "Me ei suuda isegi oma käitumist ennustada, rääkimata kellegi teise käitumisest. Ma arvan, et on võimalik, et tehisintellekti võidakse tulevikus sel eesmärgil kasutada, kuid me oleme praegu kaugel sellest, et saaksime seda teha."
Profiilide loomine
Nagu The Guardian hiljuti teatas, uuris Los Angelese politseiosakond Voyager Labi kuritegevuse ennustamise tarkvara kasutamist. Ettevõte teatas ka, et on sõlminud olulise tehingu Jaapani valitsusasutusega.
Jaapani leping annab valitsusasutusele tehisintellektil põhineva uurimisplatvormi, mis analüüsib tohutul hulgal teavet mis tahes allikast, sealhulgas avatud ja sügavaid andmeid.
"Mul on hea meel, et teeme koostööd terrorismi ja kuritegevuse vastases võitluses," ütles Voyager Labsi APACi tegevdirektor Divya Khangarot pressiteates. "Kasutades Voyager Labi tipptasemel luurelahendusi, saavad meie kliendid ainulaadsed võimalused potentsiaalsete ohtude ennetavaks tuvastamiseks ja tõkestamiseks. Toome AI, masinõppe ja OSINT-i kombinatsiooni abil kaasa täiendavaid sügavaid uurimisandmeid, et avastada peidetud jälgi, rikutud teavet, ja halvad näitlejad."
Kas pole nii tark?
Kuid ühes meiliintervjuus seadis Ferret.ai kaasasutaja Matt Heisie, mis kasutab ka õigusrikkujate ennustamiseks tehisintellekti, kahtluse alla mõned Voyager Labsi väited.
"Kas näiteks vahistamisprotokolli ja tulevase kuritegeliku käitumise vahel on sama selge seos, kui testil on must täpp ja kasvaja teke?" ta ütles. "Mõelge kõigile võimalikele segadustele, mis selle vahistamisega kaasnes – millises naabruskonnas inimene elas, politsei arvule ja kvaliteedile, isegi eelarvamustele selles piirkonnas. Inimese vanus, sugu, füüsiline välimus ja kõik need mõjutavad ristuv alt selle isiku vahistamisprotokolli, mis on täiesti eraldatud tema tegelikust kalduvusest panna toime kuritegu, mida me püüame ennustada."
Paremate advokaatidega süüdistatavad suudavad tõenäolisem alt takistada dokumentide avalikuks muutumist, ütles Heisie. Mõned jurisdiktsioonid piiravad süüdistatavate kaitsmiseks kaadripiltide või vahistamisandmete avaldamist.
"Arvuti õpib teie antud andmete põhjal ja kaasab kõik eelarvamused, mis andmete kogumisse läksid…"
"Kõik see lisab algoritmidele täiendavat eelarvamust," lisas ta. "Arvuti õpib teie antud andmete põhjal ja lisab õppimisse ja tõlgendamisse kõik eelarvamused, mis andmete kogumisel ilmnesid."
Mitu korda on tehtud katseid tekitada AI-sid ennustavat kuritegevust ja sageli skandaalsete tulemustega, ütles Heisie.
COMPAS – algoritm, mida õiguskaitseorganid kasutab kuriteo kordumise ennustamiseks, kasutatakse sageli karistuse ja kautsjoni määramisel. 2016. aastasse ulatub see rassilise kallutatuse tõttu skandaali alla, ennustades, et mustanahaliste süüdistatavate puhul on retsidiivsuse oht suurem kui tegelikult, ja valgete süüdistatavate puhul vastupidi.
Üle 1000 tehnoloogi ja teadlase, sealhulgas Harvardi, MIT-i, Google'i ja Microsofti akadeemikud ja tehisintellekti eksperdid, võtsid 2020. aastal sõna dokumendi vastu, milles väideti, et teadlased on välja töötanud algoritmi, mis suudab ennustada kuritegevust üksnes inimese nägu, öeldes, et selliste uuringute avaldamine tugevdab kriminaalõigussüsteemis juba olemasolevat rassilist eelarvamust, märkis Heisie.
Hiina on seda tüüpi tehnoloogia jaoks suurim ja kõige kiiremini kasvav turg, peamiselt tänu laialdasele juurdepääsule privaatandmetele, kus on enam kui 200 miljonit valvekaamerat ja arenenud tehisintellektiuuringud, mis on sellele probleemile aastaid keskendunud, ütles Heisie.. Selliseid süsteeme nagu CloudWalki Police Cloud kasutatakse nüüd kurjategijate ennustamiseks ja jälgimiseks ning õiguskaitseorganite kindlaksmääramiseks.
"Kuid ka seal on teatatud olulistest eelarvamustest," ütles Heisie.
Heisie lisas, et tema ettevõte kureerib hoolik alt sisestatavaid andmeid ega kasuta võtteid ega vahistamisdokumente, "keskendudes selle asemel objektiivsematele kriteeriumidele".
"Meie tehisintellekt õppis kureeritud andmetest, kuid mis veelgi olulisem, see õpib ka inimestelt, kes ise dokumente analüüsivad, kureerivad ja hindavad ning räägivad meile oma suhtlusest teistega," lisas ta. "Samuti säilitame täieliku läbipaistvuse ning tasuta ja avaliku juurdepääsu meie rakendusele (nii kiiresti kui saame need beetaversiooni lubada) ning tervitame ülevaadet meie protsessidest ja protseduuridest."
