Kreditna slika: Nick Philip

Sprejemanje prihodnosti z avtonomnimi in inteligentnimi sistemi

Avtor Joi Ito, direktor MIT Media Lab

Z Johnom Havensom sem se prvič srečal na okrogli mizi z Inštituta Aspen in razpravljal o prihodnosti umetne inteligence. IEEE sem vedno predstavljal kot kraj, kjer so inženirji izsiljevali praktične tehnične standarde in objavljali stroge akademske revije, tako da sem bil presenečen - in navdušen - ko sem ga videl, da zagovarja pomen etike v avtonomnih in inteligentnih sistemih na tako zavihan in vključujoč način. Kmalu smo pripravili začetek Svetovnega sveta za razširjeno inteligenco (CXI) in njegov mandat: zagotoviti, da ta orodja koristijo ljudem in planetu, da bodo naši sistemi močnejši in prožnejši ter da ne bodo krepili negativnih sistemskih pristranskosti.

Medijski laboratorij MIT ima dolgoletno zgodovino s področja strojnega učenja in AI, začenši z delom ustanovnega fakulteta Marvina Minskyja. Vendar smo daleč od leta 1985 in idealov in optimizma, ki jih je nekoč držalo polje. Ko je čas pritiskal in vmesniki med ljudmi in stroji so bili vpeljani v znane tehnološke igrače in pomembne ugodnosti, so bile posledice tega dela in njegove delitve vedno bolj očitne.

Obiščite katero koli nadstropje Media Laboratorija in videli boste študente in fakultete, ki se ukvarjajo s temi novimi težavami: doktorski kandidat Joy Buolamwini si prizadeva za izboljšanje programske opreme za prepoznavanje obraza, kjer pristranski nabori podatkov vodijo do težav pri prepoznavanju žensk in ljudi s temnejšo kožo; Profesor Iyad Rahwan in njegovi študenti ocenjujejo prihodnost dela in delavcev v svetu, ki postaja vse bolj avtomatiziran; in naš razred s Harvard Berkman Klein Center obravnava etiko in upravljanje AI.

Zato je to sodelovanje zame tako pomembno in verjamem, da se razlikuje od drugih skupin, ki trenutno obravnavajo prihodnost AI. Medtem ko inženirji in tehnologi etično in socialno problematiko strojnega učenja jemljejo resno, mnogi preprosto ne menijo, da je njihova naloga reševanje teh vprašanj. Z elektrarno, kot je Inštitut za standardizacijo inženirjev za elektrotehniko in elektroniko (IEEE-SA), sodeluje v skupini, ki zastopa inženirje in njihove interese - spreminja paradigmo. Etika, vrednote bodo del inženirskega pogovora.

Skupaj bomo poskušali ljudem z orodji omogočiti življenje z umetno in razširjeno inteligenco, namesto da bi imeli občutek, kot da jih bodo stroji zamenjali ali uničili. Prav tako se zaveda, da ne moremo nadaljevati z merjenjem uspeha zgolj z ekonomskega vidika ali iskati rešitev, ki ustreza vsem, - ne smemo pozabiti, da smo del spleta zapletenih samoprilagodljivih sistemov, ki vključuje tudi orodja, ki jih uporabljamo, in okolja, v katerih živimo.

Doslej se je na CXI prijavilo že več kot 50 raziskovalcev in profesorjev, med njimi tudi Jeffrey Sachs z univerze Columbia, nekdanji dekan Harvard Law School Martha Minow, Jonathan Zittrain iz Centra Berkman Klein in Paul Nemitz iz Evropske komisije. Takoj načrtujemo izvedbo treh projektov: oblikovalcem politike in širši javnosti predstaviti razširjeno obveščevalno in participativno zasnovo; ustvarijo predlogo o podatkovni politiki za vlade in organizacije, da ljudem pomagajo ohraniti nadzor nad svojo digitalno identiteto; in ustvarite predlogo kazalca dobrega počutja, da vlade in organizacije na novo opredelijo "blaginjo" na način, ki ceni cvetoče ljudi in naravne ekosisteme.

In čeprav se te ideje še vedno razvijajo, je končni cilj spodbuditi pogovor in sodelovanje - na vprašanja, ki jih te nove tehnologije postavljajo, ne moremo odgovoriti brez prispevkov in povratnih informacij s strani vseh, ki jih razvijajo, uporabljajo ali bodo nanje vplivali.