Kaip „Facebook“ „Squishy Ethics“ sukėlė problemų

Parodome atlikdami didžiulį (N = 689 003) eksperimentą „Facebook“ ...

Eksperimento metu buvo manipuliuojama žmonių (N = 689 003) emocinių išraiškų poveikiu jų naujienų sraute. […] Buvo atlikti du lygiagretūs teigiamų ir neigiamų emocijų eksperimentai: vienas, kurio metu buvo sumažintas teigiamo draugų emocinio turinio poveikis jų naujienų sraute, ir vienas, kuriame neigiamo emocinio turinio poveikis jų naujienų sraute buvo
sumažintas.

Šiomis sąlygomis, kai asmuo įkelia savo naujienų srautą, įrašus, kuriuose yra emocinio turinio, susijusio su emocine valencija, kiekvienas emocinis įrašas turėjo nuo 10% iki
90% tikimybė (atsižvelgiant į „User ID“) būti praleistam iš jų naujienų kanalo tam tikram žiūrėjimui.

Jei dalyvavote eksperimente, įrašai, kuriuose buvo emocinio turinio žodžio, turėjo 90 proc. Tikimybę, kad jie bus praleisti iš jūsų naujienų kanalo. Mano ir daugumos žmonių knygose tai yra gana manipuliuojantis.

Dabar pažiūrėkite, kaip Krameris (dar žinomas kaip „Danger Muffin“) sumažina eksperimento poveikį savo „Facebook“ paskelbtame paaiškinime:

Kalbant apie metodiką, mūsų tyrimais siekta ištirti pirmiau pateiktą teiginį, labai mažą prioritetą nustatant nedidelę procentinę dalį naujienų kanalo turinio (atsižvelgiant į tai, ar įraše buvo emocinis žodis) žmonių grupei (apie 0,04% vartotojų, arba 1). po 2500)…

Ak, mes pereiname nuo „iki 90 procentų tikimybės“ iki „labai mažo prioriteto mažo turinio procento nustatymui“. Ar ne nuostabu, kaip kūrybiškai galima apibūdinti tą patį tyrimą dviem praktiškai prieštaringais būdais?

Ar tai buvo reikšminga, ar ne?

Pats tyrimas pateikia keletą teiginių ir išvadų apie jų išvadų reikšmingumą ir poveikį (nepaisant juokingai mažo efekto dydžio). Kažkaip visi šie nemalonūs, per daug siekę teiginiai aplenkė PNAS žurnalo apžvalgininkus (kurie turėjo miegoti, kai jie štampavo šį popierių) ir jiems buvo leista stovėti be kvalifikacijos.

Sekmadienį paskelbtame Kramerio paaiškinime jis siūlo, kad jų duomenys vis tiek nerado nieko, dėl ko žmonės turėtų susirūpinti:

Dienos pabaigoje tikrasis poveikis eksperimento žmonėms buvo minimalus, kad būtų galima jį statistiškai aptikti ... 3

Tai tiesiogiai prieštarauja teiginiams, pareikštiems pačiame tyrime:

Šie rezultatai leidžia manyti, kad draugų per internetinius socialinius tinklus išreikštos emocijos daro įtaką mūsų pačių nuotaikai ir, mūsų žiniomis, yra pirmieji eksperimentiniai masinio masto emocinio užkrėtimo per socialinius tinklus įrodymai […]

Žinutės internete daro įtaką mūsų emocijų patirčiai, o tai gali turėti įtakos įvairiam elgesiui neprisijungus.

Žiūrėk, ten - tiems teiginiams nėra kvalifikacinių savybių. Nėra sakymo: „O, bet tai tikrai nepaveiks žmogaus emocijų“. Ne, mano nuomone, visiškas prieštaravimas to, ką dabar tvirtina vienas iš tyrėjų.

Bet ar tai buvo etiška?

Daug ginčų kilo dėl to, ar toks papildomas manipuliavimas jūsų naujienų srautu „Facebook“ yra etiškas ir ar gerai, jei į svetainės paslaugų teikimo sąlygas įterpiate pasaulinę sutikimo dėl mokslinių tyrimų formą. („Facebook“ jau manipuliuoja tuo, ką matote savo naujienų sraute, naudodamas savo algoritmą.)

Pirmiausia paimkime raudonųjų silkių argumentą, kad šis tyrimas nėra tas pats, ką vidaus tyrimų kompanijos daro dėl naudojimo ar dizaino testavimo. Tokie tyrimai niekada nėra skelbiami ir niekada nėra atliekami norint ištirti mokslines hipotezes apie emocinį žmogaus elgesį. Tai tarsi obuolių palyginimas su apelsinais, kad būtų galima teigti, jog tai yra tas pats dalykas.

Žmonių tyrimų tyrimus paprastai turi pasirašyti nepriklausoma trečioji šalis, vadinama institucine peržiūros taryba (IRB). Paprastai jie yra universitetuose ir juose apžvelgiami visi paties universiteto mokslininkų atliekami tyrimai, siekiant įsitikinti, kad jie nepažeidžia įstatymų, žmogaus teisių ar žmogaus orumo. Pelno siekiančios įmonės, tokios kaip „Facebook“, neturi tikslaus IRB atitikmens. Jei IRB neperžiūrėjo žmogaus tiriamų tyrimų, ar tai buvo etika, ar moralė, lieka atviras klausimas.

Štai „duomenų mokslininkas“ 4 Kramerio ginamas tyrimo planas, kaip pažymėta tyrime:

[Duomenys buvo tvarkomi tokiu būdu], kad tyrėjai nematė jokio teksto. Tai atitiko „Facebook“ duomenų naudojimo politiką, su kuria visi vartotojai sutinka prieš sukurdami paskyrą „Facebook“, ir tai yra informuotas sutikimas atlikti šį tyrimą.

Tačiau Kašmyro kalnas siūlo, kad „Facebook“ duomenų naudojimo politika buvo pakeista praėjus 4 mėnesiams po tyrimo, siekiant aiškiai leisti „tyrinėti“ „Facebook“ duomenis.

Atrodė, kad jie taip pat sumanė gauti universiteto IRB pritarimą tyrimui. Hillas anksčiau pranešė, kad Kornelio IRB neperžiūrėjo tyrimo.5 Nė vienas iš tyrėjų nepajėgė paaiškinti, kodėl jie, matyt, pasakė PNAS redaktoriui, kad jį valdė universiteto IRB.

JK gvidietis Chrisas Chambersas pateikia šią liūdnos situacijos santrauką:

Ši situacija, tiesą sakant, yra juokinga. Kurioje 2014 m. Versijoje žurnalai, universitetai ir mokslininkai gali atsakyti į paprastus klausimus apie etiką? Kaip priimtina etikos komitetui nuspręsti, kad tie patys autoriai, kurie padėjo „Facebook“ kuriant intervencinį tyrimą, siekiant pakeisti daugiau nei 600 000 žmonių emocinę būseną, kažkaip „tiesiogiai nedalyvavo žmogaus tyrimuose“?

Ledai ant torto: neatsiprašymas

Krameris neatsiprašė, kad atliko tyrimą be informuoto vartotojo sutikimo. Užtat jis atsiprašė kaip jis užrašė tyrimas:

Aš suprantu, kodėl kai kuriems žmonėms tai kelia susirūpinimą, ir mes su bendraautoriais labai apgailestaujame dėl to, kad dokumente aprašytas tyrimas ir bet koks jo sukeltas nerimas.

Žmonės nesutrinka, kai atlikote tyrimą, jie nusiminė, kad tyrėte juos be jų žinios ar sutikimo. Ir atsiprašau „Facebook“, tačiau laidojant „sutikimą“ tūkstančiais teisinio žodžio žodžių, jūs galite teisiškai apsaugoti, tačiau jis neapsaugo jūsų nuo sveiko proto. Arba žmonių reakcijos, kai sužino, kad juos naudojai kaip jūrų kiaulytes.

Žmonės tiesiog nori prasmingo būdo atsisakyti eksperimentų su jais ir jų naujienų srauto be jų žinios ar sutikimo.

Šiandien „Facebook“ to nesiūlo. Bet įtariu, kad jei „Facebook“ nori tęsti tokio pobūdžio tyrimus, netrukus jie pasiūlys šią galimybę savo vartotojams.

Etikos atvejų tyrimas visiems laikams

Ši situacija yra puikus pavyzdys, kaip negalima tirti savo vartotojų duomenų be aiškaus jų sutikimo. Jis bus dėstomas etikos pamokose daugelį metų, o galbūt ir dešimtmečius.

Tai taip pat atliks atvejo analizę, ko nedaryti kaip socialinį tinklą, jei norite išlikti savo vartotojų pasitikėjimu.

„Facebook“ turėtų visiems vartotojams atsiprašyti už tai, kad jie atliko tokio pobūdžio tyrimus be jų aiškios žinios ir leidimo. Jie taip pat turėtų pakeisti savo vidinius tyrimų reikalavimus, kad visi jų naudotojų tyrimai būtų atliekami per išorinę, universitetinę IRB.

Papildoma literatūra

„Facebook“ fiasko: ar Kornelio tyrimas apie „emocinį užkrėtimą“ buvo etikos pažeidimas?

„Facebook“ pridėjo „Tyrimą“ prie vartotojo sutarties praėjus 4 mėnesiams po manipuliavimo emocijomis

Nuoroda

Kramer, ADI, Guillory, JE, Hancock, JT. (2014). Eksperimentiniai masinio masto emocinio užkrėtimo įrodymai per socialinius tinklus. PNAS. www.pnas.org/cgi/doi/10.1073/pnas.1320040111

Išnašos:

1. Tai jie jau mums pasakė tyrime: „Testas, ar emocinio turinio įrašai yra patrauklesni“. [↩]
2. Atrodo, kad „Facebook“ yra mažiau susijęs su mano realiu gyvenimu, matydamas, kad mano pačios naujienų kanalas iš įrašų apie žmonių gyvenimus iš esmės perėjo prie „nuorodų, kurios man atrodo įdomios“, nors niekada ir nespusteliu ant tų nuorodų! [↩]
3. Tai yra visiškai tyrinėtojų būdas pasakyti: „Mūsų eksperimentas iš tikrųjų nerado jokio reikšmingo efekto dydžio. Bet mes trimituosime rezultatus taip, lyg tai padarėme (nes iš tikrųjų radome žurnalą, PNAS, pakankamai, kad jį paskelbtume!). " [↩]
4. Aplink šį pavadinimą naudoju kabutes, nes visi tyrėjai ir mokslininkai yra duomenų mokslininkai - tai ir skiria tyrėją nuo pasakotojo. [↩]
5. Tiesą sakant, jie pažymi, kad Hancockas, įvardytas šio straipsnio autorius, turėjo prieigą tik prie rezultatų - net ne iš tikrųjų duomenų! [↩]