Võtmed kaasavõtmiseks
- Paistab, et tehisintellekti süsteem nimega DALL-E2 on loonud oma kirjaliku suhtluse süsteemi.
- Mõned eksperdid ütlevad, et näiv keel võib olla lihts alt jabur.
- See on näide sellest, kui raske on täiustatud tehisintellektisüsteemide tulemusi tõlgendada.
Tundub, et tehisintellekt (AI) on välja töötanud oma keele, kuid mõned eksperdid on väite suhtes skeptilised.
OpenAI tekstist pildiks tehisintellekti süsteem DALL-E2 näib olevat loonud oma kirjaliku suhtluse süsteemi. See on näide sellest, kui raske on täiustatud tehisintellektisüsteemide tulemusi tõlgendada.
"Suurte mudelite suuruse ja sügavuse tõttu on mudeli käitumist väga raske seletada, " ütles iMeriti loomuliku keele mõistmise lahenduste arhitektuuri direktor Teresa O'Neill Lifewire'ile antud meiliintervjuus. "See on üks peamisi väljakutseid ja mõnel juhul ka eetilised probleemid üha võimsamate mudelite puhul. Kui me ei suuda selgitada, miks nad nii käituvad, kas suudame nende käitumist ennustada või hoida seda oma normide ja ootustega kooskõlas?"
AI vestlused
Arvutiteaduse üliõpilane Giannis Daras märkis hiljuti, et DALLE-2 süsteem, mis loob tekstisisestuse põhjal pilte, tagastab teatud tingimustel mõttetud sõnad tekstina.
"DALLE-2 teadaolev piirang on see, et see võitleb tekstiga," kirjutas ta trükieelses serveris Arxiv avaldatud artiklis. "Näiteks tekstiviibad, nagu: "Pilt sõnast lennuk", viivad sageli loodud piltideni, mis kujutavad jaburat teksti."
Aga, kirjutas Daras, näilise jaburuse taga võib olla mingi meetod. "Me avastame, et see toodetud tekst ei ole juhuslik, vaid pigem paljastab varjatud sõnavara, mis näib olevat mudeli sisemiselt arenenud," jätkas ta. "Näiteks, kui seda jaburat teksti toidetakse, toodab mudel sageli lennukeid."
Oma säutsus juhtis Daras tähelepanu sellele, et kui DALLE-2-l paluti kahe taluniku vahelisele vestlusele subtiitrid panna, siis see näitas, et nad räägivad, kuid kõnemullid olid täidetud mõttetute sõnadega. Kuid Daras avastas, et sõnadel näis olevat tehisintellekti jaoks oma tähendus: põllumehed rääkisid köögiviljadest ja lindudest.
Nicola Davolio, tehisintellektiga töötava tehnoloogiaettevõtte Hupry tegevjuht, selgitas Lifewire’ile antud meiliintervjuus, et keel põhineb sümbolitel, mida DALL-E2 süsteem on õppinud seostama teatud mõistetega. Näiteks sümbol "koer" võib olla seotud koera pildiga, samas kui sümbol "kass" võib olla seotud kassi pildiga. DALL-E2 on loonud oma keele, kuna see võimaldab tõhusam alt suhelda teiste AI-süsteemidega.
Mõtlemistega, nagu ilmselt DALL-E2 varjatud sõnavara, on lõbus maadelda, kuid need tõstavad esile ka raskemaid küsimusi…
"Keel koosneb sümbolitest, mis näevad välja nagu Egiptuse hieroglüüfid ja millel ei paista olevat mingit konkreetset tähendust," lisas ta. "Sümbolid on inimeste jaoks ilmselt mõttetud, kuid tehisintellekti süsteemi jaoks on need täiesti arusaadavad, kuna seda on treenitud miljonite piltide jaoks."
Teadlased usuvad, et AI-süsteem lõi keele, et aidata sellel paremini mõista piltide ja sõnade vahelisi seoseid, ütles Davolio.
"Nad pole kindlad, miks AI-süsteem oma keele välja töötas, kuid nad kahtlustavad, et sellel võib olla midagi pistmist sellega, kuidas ta pilte looma õppis," lisas Davolio. "Võimalik, et AI-süsteem töötas välja oma keele, et muuta suhtlus erinevate võrguosade vahel tõhusamaks."
AI mõistatused
DALL-E2 pole ainus AI-süsteem, mis on oma sisekeele välja töötanud, märkis Davolio. 2017. aastal lõi Google'i AutoML-süsteem närviarhitektuuri uue vormi, mida nimetatakse "lapsvõrguks", pärast seda, kui tal oli jäetud otsustada, kuidas antud ülesannet kõige paremini täita. Seda alamvõrgustikku ei saanud selle inimloojad tõlgendada.
"Need näited on vaid mõned juhtumid, kus AI-süsteemid on välja töötanud viise, kuidas teha asju, mida me ei oska seletada," ütles Davolio. "See on esilekerkiv nähtus, mis on ühtviisi nii põnev kui ka murettekitav. Kuna tehisintellektisüsteemid muutuvad keerukamaks ja autonoomsemaks, võime üha enam leida end olukorrast, kus ei saa aru, kuidas need töötavad."
O'Neill ütles, et tema arvates ei loo DALL-E2 oma keelt. Selle asemel ütles ta, et näilise keelelise leiutuse põhjus on ilmselt pisut proosalisem.
"Üks usutav seletus on juhuslik juhus – nii suure mudeli puhul võib kehtida natuke Murphy seadust: kui võib juhtuda imelik asi, siis see tõenäoliselt juhtub," lisas O'Neill. Teine võimalus, mille uurimisanalüütik Benjamin Hilton Darase leide käsitlevas Twitteri lõimes soovitas, on see, et fraasi "apoploe vesrreaitais" vorm jäljendab looma ladinakeelset nimetust. Nii et süsteem on loonud uue Avesi järjekorra, lisas O'Neill.
"DALL-E2 ilmselt peidetud sõnavaraga sarnaste mõistatustega on tore maadelda, kuid need tõstavad esile ka raskemaid küsimusi suurte mudelite sageli läbimõtlematu käitumise riski, eelarvamuste ja eetika kohta," ütles O'Neill..
