Kako rečeš algoritem v Kiswahiliju?

To objavo sta napisala Mercy Musya in Grace Kamau iz Centra za vedenjsko ekonomijo Busara v Nairobiju v Keniji, prispevala pa sta Dan Bjorkegren z univerze Brown in Joshua Blumenstock iz UC Berkeley in CEGA.

Kredit: Center za vedenjsko ekonomijo Busara

Odločitve, ki so jih nekoč sprejemali ljudje, se vse pogosteje sprejemajo po algoritmih, naj bo to za odobritev posojila, diagnozo bolezni ali celo za naročilo v restavraciji. Medtem ko so nekatere od teh odločitev nepomembne, druge pa se nanašajo na osebne finance, kar vzbuja zaskrbljenost, da bi morali, če se za sprejetje pomembnih odločitev uporabljajo algoritmi, pojasniti, kako se te odločitve sprejemajo. Evropska unija si na primer prizadeva za „pravico do razlage“ za digitalne odločitve. Toda kako naj razložimo odločitve na podlagi zapletenih modelov? Ali je mogoče razložiti odločitve vsem prizadetim, tudi tistim, ki imajo že prej malo izkušenj s tehnologijo in algoritmi?

Ta vprašanja smo raziskovali v okviru digitalnega posojanja, ene najuspešnejših aplikacij strojnega učenja v razvijajočih se družbah.

Kaj je digitalno posojanje?

Vsak četrti Kenij je vzel digitalno posojilo (Gubbins in Totolo, 2018). Digitalni kredit je več kot 6 milijonom Kenijcev dal bonitetno oceno glede na to, kako uporabljajo svoje telefone (Björkegren in Grissen 2015) in jim s tem omogočil dostop do kreditov.

Običajno uporabniki prenesejo digitalno kreditno aplikacijo iz trgovine Google Play, omogočijo dovoljenju aplikaciji dostop do podatkov družbenih medijev, podatkov GPS, kontaktnih seznamov, SMS, dnevnikov klicev itd. Aplikacija nato analizira podatke in uporabi algoritme za določitev kreditne ocene in velikosti posojila.

Zasluge: M-Pesa

Ali ljudje razumejo koncept algoritma?

Ta postopek pa postavlja vprašanje: ali ti uporabniki resnično razumejo, kako delujejo ti algoritmi in kako jih lahko njihova dejavnost kvalificira ali izključi iz posojil? In če ne, ali je mogoče sporočati naravo algoritmov revnim? In pri tem, koliko informacij je primerno zagotoviti?

Serija šestih razprav v fokusnih skupinah (FGD) je raziskovala splošno razumevanje Kenijcev digitalnih kreditnih algoritmov, ki določajo upravičenost do posojila. FGD so potekali v centru za vedenjsko ekonomijo Busara v Nairobiju, kamor je bilo povabljenih 50 ljudi: raznolik nabor prebivalcev Kibere in Kawangwarea iz bazena z nizkimi dohodki Busara, ki so imeli v lasti pametne telefone in so imeli vsaj nekaj predhodnih izkušenj z neko obliko digitalne kredit. Le 64% udeležencev je imelo srednješolsko izobrazbo. Udeleženci so nato prosili, da pojasnijo svoje razumevanje postopka odobritve digitalnega kredita, jim razložil preprost postopek algoritmov in jim nato predstavil nabor hipotetičnih vaj, s katerimi so preverili, ali razumejo algoritme.

Skoraj vsi udeleženci so imeli malo znanja ali razumevanja algoritmov, ki jih uporabljajo digitalna kreditna orodja.

Številni so se odločili za bolj tradicionalne formalne postopke, da bi izrazili, kakšen postopek mislijo, da te platforme uporabljajo za oceno njihove upravičenosti do posojil, tj. Prihrankov, primarnih virov dohodka, poroštva za posojila in / ali transakcij MPESA. Udeleženci, ki so bili manj seznanjeni z algoritmičnimi pristopi, so domnevali, da obstaja nekaj večjega dogovora med vsemi finančnimi institucijami za izmenjavo informacij o vlogah, ki bi jih skupaj ocenili upravičenost.

„Verjamem, da se [digitalni posojilodajalec na primer] odpravljata in preverjata pri drugih posojilnicah [telekom, na primer Safaricom in kreditni urad CRB], da dobijo več informacij o tem, ali sem dober posojilojemalec. ”

Vendar pa so udeleženci na splošno verjeli, da je mogoče določiti nekatere značilnosti ljudi iz uporabe telefona.

Podatki o uporabi telefona pri klicih, SMS sporočilih, nameščenih aplikacijah, vzorcih polnjenja baterije in povezavah WiFi med drugimi dejavnostmi lahko med seboj primerno definirajo različne demografske značilnosti. Na splošno so anketiranci v FGD lahko razumeli, kako lahko nekateri podatki prepoznajo dobre ali slabe posojilojemalce. Nekateri so celo segmentirano ravnali s poudarkom na vsakodnevnih poklicnih interakcijah:

"Poslovni ljudje bolj verjetno sprejemajo več klicev iz istih telefonskih številk in njihov GPS bi jim pokazal, da se precej pomikajo, saj se morajo svojim strankam udeležiti na spletu ali osebno."

Zasebnost je pomembna, vendar anonimizacija odpravlja številne pomisleke.

Večini udeležencev ni bilo jasno, kakšen je bil namen dovoljenj za te aplikacije. Ko so jim podatki, ki jih zbirajo te aplikacije, natančno opisali, so udeleženci zaskrbljeni glede njihove zasebnosti, posnetki klicev in vsebine SMS so najbolj občutljiva vprašanja. Vendar so bili bistveno bolj udobni z anonimiziranim zbiranjem podatkov, to je zbranih telefonskih številk, tako da ni bila zbrana nobena vsebina.

Za učinkovito komuniciranje specifikacij algoritmov je preprost jezik, ki je prijeten.

Busara je poskušal razložiti algoritme z uporabo različnih pristopov, npr. matematične enačbe ali grafične ilustracije. Večina udeležencev se je trudila razumeti algoritme, ko so bili predstavljeni kot matematične enačbe, medtem ko je udeležence lažje dojela shematična predstavitev algoritmov. Uporaba tortne karte za razlago razmerja je bila najbolj uspešna.

Poenostavljene terminologije ustrezajo stopnji izobrazbe in vsakodnevnemu jeziku (večinoma slengu). Izraze, kot sta „povečan delež“ ali „odštevanje“, bi lahko nadomestili z „več od“ in „odštevanje“. Posojilojemalci želijo razumeti ta pravila odločanja, vendar le toliko, kolikor je poenostavljeno, da sprejmejo splošni koncept.

Kaj to pomeni za algoritem motivirano komunikacijo?

Globalna razprava se nadaljuje glede obsega, v katerem bi bilo treba za zagotovitev varstva potrošnikov zakonsko določiti preglednost algoritmov. Trenutni projekt, ki ga vodita Joshua Blumenstock in Daniel Björkegren v centru Busara, ki ga je podprla Fundacija Bill & Melinda Gates prek CEGA-ovega digitalnega kreditnega opazovalnega urada (DCO), skuša ugotoviti, kako bi algoritme lahko ustrezno komunicirali, tudi če digitalni kredit še naprej širi doseg .