Twitter kuulutas välja oma fotode kärpimissüsteemis kallutatuste leidmise konkursi tulemused.
Haldusväljakutse avati juulis pärast seda, kui Twitteri kasutajad näitasid, et saidi automaatne kärpimistööriist eelistab heledama jumega inimesi tumedama jumega inimeste asemele. See tõstatas mõned küsimused selle kohta, kuidas tarkvara eelistas nahavärvi ja teatud tegureid teiste ees.
Väljakutse eesmärk oli välja selgitada, millised muud vead ja eelarvamused kärpimissüsteemil võivad probleemide lahendamiseks olla.
Esimese koha sai Bogdan Kulynych, kelle avaldus näitas, kuidas ilufiltrid suudavad algoritmi hindamismudelit mängida, mis omakorda võimendab traditsioonilisi ilustandardeid. Esitamine näitas, et algoritm eelistas noori ja saledaid nägusid, millel on kas hele või soe nahatoon. Kulynych võitis 3500 dollarit.
Teise koha sai Torontos asuv tehnoloogiaalgatusettevõte HALT AI, kes avastas, et vanurite ja puuetega inimeste pilte on fotodelt välja lõigatud. Teiseks saamise eest anti meeskonnale 2000 dollarit.
Kolmanda koha ja 500 dollarit sai ettevõtte Taraaz Research asutaja Roya Pakzad, kes avastas, et algoritm eelistab ladina tähtede kärpimist araabia tähtede asemel, mis võib kahjustada keelelist mitmekesisust.
Üksikasjalikud tulemused tutvustas DEF CON 29-l Twitteri META meeskonna direktor Rumman Chowdhury. META meeskond uurib tahtmatuid probleeme algoritmides ja kõrvaldab igasuguse soolise ja rassilise eelarvamuse, mis sellistel süsteemidel võib olla.
Selle võistluse käigus saadud andmeid kasutatakse kärpimisalgoritmi vigade ja eelarvamuste leevendamiseks ning kaasavama keskkonna tagamiseks.
