Začetek danes: nova skupna študija za zmanjšanje zlorab na Twitterju

Z več metodami lahko spletno zlorabo močno zmanjšamo - če odkrijemo tudi, katere metode dejansko delujejo v katerih situacijah.

avtorjev Susan Benesch in J. Nathan Matias

Spletna zloraba je postala tako razširjena in razširjena, da predstavlja resen izziv za javno blaginjo po vsem svetu. Tako kot drugi zapleteni družbeni problemi zahteva tudi strogo, večstransko iskanje rešitev. Tega ne moremo rešiti zgolj s poskusom izbrisa vseh škodljivih vsebin na spletu (čeprav bi bilo to tehnično mogoče doseči), saj tudi takšni drakonski pravilniki ne bi preprečili, da bi več vsebine povzročilo škodo. Kot je priklicati nevarno hrano, ne da bi preprečili onesnaženje in prodajo nove hrane - ali odvzeli strmoglavljene avtomobile, ne da bi poskušali nove avtomobile narediti varnejše. Zlorabe ni mogoče rešiti z nobenim samim načinom, saj je objavljen v toliko oblikah, najrazličnejših ljudi in iz več razlogov.

Z več metodami lahko spletno zlorabo močno zmanjšamo - če odkrijemo tudi, katere metode dejansko delujejo v katerih situacijah. V 35-letni zgodovini interneta je preplavilo kar nekaj obetavnih idej, vendar jih večina ni bila sistematično preizkušena. Zaradi pomanjkanja dokazov lahko tehnološka podjetja vztrajajo v praksah, ki poslabšajo zlorabo, in morda spregledajo preproste ideje, ki bi lahko pomagale milijonom ljudi.

Raziskave so pokazale, da ljudje večjo verjetnost upoštevajo, ko institucije jasno objavijo pravila.

Danes bo Twitter začel preizkušati takšno idejo: da bo prikazovanje pravil internetne platforme uporabnikom izboljšalo vedenje na tej platformi. Socialne norme, ki so ljudje v prepričanju o tem, kaj institucije in drugi ljudje menijo za sprejemljivo vedenje, močno vplivajo na to, kaj ljudje počnejo in česa ne. Raziskave so pokazale, da ljudje večjo verjetnost upoštevajo, ko institucije jasno objavijo pravila. Prav tako imamo zgodnje dokaze iz Nathanove raziskave s skupnostmi reddit, da lahko vidno delovanje politik izboljša spletno vedenje. V poskusu, ki se začne z današnjim dnem, Twitter objavlja svoja pravila in preizkuša, ali to izboljšuje državljanstvo.

To idejo smo predlagali Twitterju in zasnovali eksperiment, da bi ga ocenili. Ta projekt pionirja tudi na odprtem, na dokazih temelječem pristopu k izboljšanju izkušenj ljudi na spletu in hkrati varuje njihovo zasebnost. Industrijski in univerzitetni raziskovalci so že prej sodelovali. To prizadevanje je edinstveno v tem, da smo se odločili, da ga bomo vodili kot odprto sodelovanje pod nizom pravnih, etičnih in znanstvenih omejitev. To bo zaščitilo uporabnike Twitterja, zaščitilo verodostojnost našega dela in zagotovilo, da bodo pridobljena znanja na voljo vsem, ki jih bodo lahko uporabljali - tudi drugim internetnim podjetjem.

Ta projekt pionirja tudi na odprtem, na dokazih temelječem pristopu k izboljšanju izkušenj ljudi na spletu in hkrati varuje njihovo zasebnost.

Upamo, da bo ta projekt zagotovil praktično znanje o preprečevanju zlorab na spletu in da bo naš postopek spodbudil nadaljnja pregledna, neodvisna vrednotenja mnogih drugih idej za zmanjšanje zlorab na spletu.

Raziskovalni postopek

Ko testiramo ideje za preprečevanje zlorab, naša raziskovalna skupina preizkuša tudi postopek neodvisnega zunanjega ocenjevanja politike in oblikovalskih posegov, ki jih izvajajo tehnološka podjetja. Tukaj je opisano, kako deluje

Neodvisnost

Naša neodvisnost od Twitterja je osnova tega procesa. Smo akademski raziskovalci, ne delamo za Twitter in za ta projekt nismo niti iskali niti prejeli denarja od Twitterja. Postavili smo dva pogoja za izvedbo projekta v sodelovanju s podjetjem: da deli informacije, ki jih potrebujemo za analizo rezultatov, in da ohranimo svobodo objavljanja rezultatov v strokovno pregledni akademski reviji. Pogajali smo se in podpisali pravne sporazume, v katerih se je Twitter strinjal s temi pogoji in dogovorili smo se, da bomo varovali poslovne skrivnosti o tehničnih vprašanjih, ki niso povezana z našimi glavnimi vprašanji.

Zasebnost uporabnika

Za varovanje zasebnosti nam bo podjetje dajalo le anonimizirane, združene podatke. Ker ne bomo prejeli identifikacijskih podatkov o nobeni posamezni osebi ali Twitter računu, ne moremo in ne bomo omenjali nikogar ali njihovih tvitov v naših publikacijah.

Zasebnost je osrednjega pomena za naš postopek, zato omejuje podatke, s katerimi sodelujemo, ščiti podatke, ko delamo analize, in omejuje uporabo vseh podatkov samo za to študijo. Študijo smo zasnovali s Twitterjem tako, da nam lahko ocenimo eksperiment, ne da bi morali vedeti imena ali druge osebne podatke katerega koli računa. Ko se študija konča, bo Twitter pripravil zbirno zbirko podatkov za našo analizo. Podatki s Twitterja bodo ostali v našem šifriranem sistemu, kjer bomo izvajali analizo in podatkov ne bomo smeli deliti zunaj tega sistema. Po potrditvi integritete prejetih podatkov bomo upoštevali dogovorjeni načrt za analizo rezultatov. Ker lahko medsebojni pregled traja nekaj časa in ker nas lahko drugi raziskovalci podrobno preverijo, bomo podatke in morebitne varnostne kopije hranili dve leti po zaključku študije in jih nato izbrisali.

Preglednost in odgovornost

Da bi bili čim bolj pregledni, javno objavljamo študijo, preden se začne. Ker ga zdaj ne moremo podrobno opisati, ne da bi ogrozili integriteto rezultatov, smo našli dve možnosti. Najprej je celoten načrt študija odobril dva univerzitetna odbora za etiko (njegova naloga je zagotoviti, da raziskovalci upoštevajo pravila, ki ščitijo ljudi, ki bi jih raziskave lahko prizadele). Drugič, vložili smo naš načrt analize - podroben opis izvedbe študije - z nevtralno tretjo stranjo, imenovano Open Science Framework. To zagotavlja, da smo lahko mi in Twitter odgovorni za točno to, kar počnemo.

Ta praksa vložitve načrta nevtralni tretji osebi se imenuje predregistracija in pomeni, da smo podrobno opisali, kakšne so bile naše hipoteze, natančno, kako bi Twitter opravil poseg, kakšne rezultate bomo opazovali in katere statistične metode uporabil za analizo rezultatov - vse pred začetkom raziskave. To zagotavlja, da bomo analizo izvedli točno tako, kot smo načrtovali, preden smo videli rezultate, tudi če ta analiza daje razočaranje. Predregistracija, najboljša praksa odprte znanosti, ščiti verodostojnost raziskav naše ekipe in sodelovanja Twitterja. Načrt analize smo naložili v Open Science Framework - nevtralno tretjo stran. Ko je študija končana in bomo pripravljeni objaviti svoje rezultate, bomo načrt javno objavili na OSF, da bodo drugi lahko potrdili, da smo sledili načrtu, in prav tako pomembno, da lahko ponovimo našo študijo.

Svoje ugotovitve bomo dali na voljo vsem, tako da jih lahko prosto uporablja. Našo raziskavo bomo oddali v strokovni pregled in jo objavili v akademski reviji.

Etika

Naš postopek je tudi v skladu s standardnimi univerzitetnimi praksami za raziskovalno etiko. Ta projekt so pregledali in odobrili vsi naši etični odbori: MIT COUHES in REB univerze McGill v sodelovanju z odborom za etiko na Univerzi v Bath.

Pri načrtovanju te študije smo razmišljali, da bi vsako osebo vnaprej zaprosili za soglasje ali po koncu študije obvestili ljudi, da so morda sodelovali. V tej raziskavi lahko prošnja za sodelovanje ljudi privede do pristranskih ugotovitev. Obvestilo po študiji prek Twitterja je bilo prav tako nepraktično, saj Twitter ne bi mogel priti do ljudi, ki so zapustili platformo, naša raziskovalna skupina pa ne bi mogla priti do nikogar, saj ne bomo imeli imen računov ali kontaktnih podatkov . V takšnih razmerah ameriška raziskovalna etična politika zahteva poskuse za doseganje standardov minimalnega tveganja. Verjamemo, da sporočila, ki jih testiramo, ustrezajo temu standardu, zato sta odbor za etiko MIT in McGill to študijo odobrila. Ker je izdaja soglasja tako pomembna, nekateri v naši skupini oblikujejo nove načine za usklajevanje privolitve in odgovornosti obsežnih raziskav. Če imate vprašanja o etiki te raziskave, se obrnite na J. Nathan Matias na jnmatias@mit.edu.

Zahvala

Nekaj ​​smo hvaležni nekaterim briljantnim kolegom, ki so pomagali pri tem projektu. Lindsay Blackwell je napisala raziskavo ustreznih raziskav družboslovja, ki je usmerjala naše razmišljanje pri načrtovanju eksperimenta. Marc Brackett je dal tudi zgodnje napotke. Andrew Sellars na kliniki BU / MIT Technology & Cyberlaw je pomagal oblikovati in pogajati o sporazumih o sodelovanju. Hvaležni smo tudi številnim ljudem na Twitterju, ki so si prizadevali za to, da bi bil ta projekt mogoč.

O raziskovalcih

Projekt vodita Susan Benesch in J. Nathan Matias. Novinarji, ki imajo vprašanja o projektu, naj nas kontaktirajo na (susan@dangerousspeech.org in jnmatias@mit.edu).

Susan Benesch (@susanbenesch) je strokovna sodelavka Berkman Klein Centra za internet in družbo na univerzi Harvard. Ustanovila in usmerila je projekt Nevarni govor, ki preučuje govor, ki lahko navdihuje nasilje - in načine za preprečevanje take škode, ne da bi posegal v svobodo izražanja. To vključuje obsežno delo na področju spletnega komuniciranja, projekt Nevarni govor pa je del Twitter-ovega sveta za zaupanje in varnost.

J. Nathan Matias (@natematias) je podoktorski znanstveni sodelavec na oddelkih za psihologijo na Univerzi v Princetonu, Center za politiko informacijske tehnologije in sociologijo. Je gostujoči štipendist Centra za državljanske medije MIT Media Lab in ustanovitelj podjetja CivilServant, ki organizira vedenje vedenja državljanov za pravičnejši, varnejši in bolj razumevajoč internet. CivilServant je neposredno sodeloval s skupnostmi več deset milijonov ljudi, da bi odkril učinkovite ideje za izboljšanje spletnega življenja in ocenil vpliv socialnih tehnologij.

Derek Ruths je izredni profesor na Fakulteti za računalništvo na Univerzi McGill, kjer vodi Network Dynamics Lab. Derek v svoji raziskavi preučuje načine uporabe podatkov za merjenje in napovedovanje obsežnega človeškega vedenja.

Adam Joinson (@joinson) je profesor informacijskih sistemov na Univerzi v Bathu, kjer izvaja raziskave o presečišču tehnologije in vedenja - vključno z delom na komunikacijskih vzorcih, vplivu, varnosti in zasebnosti ter na to, kako lahko dizajn vpliva na vedenje.