Kontroverza Logan Paul YouTube in kaj lahko pričakujemo od internetnih platform

Kdo je odgovoren, ko uporabniki zlorabljajo platformo?

Logan Paul v Los Angelesu junija 2017.

Hollywood To You/Star Max/GC Image

Ta zgodba je del skupine zgodb z imenom Velika ideja

Mnenja zunanjih sodelavcev in analiza najpomembnejših vprašanj v politiki, znanosti in kulturi.



Kaj pričakujemo od moderiranja vsebine? In kaj pričakujemo od platform?

Prejšnji teden, Logan Paul , 22-letna zvezda YouTuba z več kot 15 milijoni naročnikov, je objavila kontroverzni videoposnetek, ki je ta vprašanja postavil v središče. Paulovi videoposnetki, neusmiljena ploha hvalisanja, potegavščine in kaskade, so mu zbrali legijo oboževalcev. Ampak on naletel na odziv javnosti potem ko je objavil videoposnetek, v katerem so se s prijatelji odpravili v gozd Aokigahara na Japonskem, ki ga včasih imenujejo samomorilski gozd, le da bi našli truplo mladeniča, za katerega je bilo videti, da se je pred kratkim obesil.

Namesto da bi ugasnil kamero, je Paul nadaljeval s svojimi norčijami, ki se je vrtel med strahospoštovanjem in nespoštovanjem, pokazal telo od blizu in nato pozornost preusmeril nazaj na lastno reakcijo. Posnetek se je zadržal na telesu, vključno z bližnjimi posnetki njegove otekle roke. Paulove reakcije so bile samovšečne in krute.

Po a močan val kritik v temah komentarjev in na Twitterju je Paul odstranil videoposnetek in izdal pisno opravičilo, ki je bilo samo kritizirano, ker ni izbral pravega tona. Sledilo je nekoliko bolj srčno video opravičilo. Kasneje je napovedal, da bo oddih od YouTuba . YouTube je Paula odstranil iz svojega vrhunskega sistema zaslužka in včeraj napovedal, da se bo Paul soočil nadaljnje posledice.

Polemika okoli Paula in njegovega videa poudarja nesporno potrebo po ponovnem preučitvi javnih odgovornosti platform družbenih medijev, zdaj bolj kot kdaj koli prej. Platforme so predolgo uživale velikodušno pravno zaščito in enako velikodušen kulturni dodatek: da so zgolj kanali, ki niso odgovorni za to, kar jim uporabniki objavljajo.

mehka nestrpnost nizkih pričakovanj

V senci te zaščite so zgradili baročne moderacijske mehanizme: označevanje, pregledovalne ekipe, množične delavce, orodja za samodejno odkrivanje, starostne ovire, suspenzije, status preverjanja, zunanje svetovalce, orodja za blokiranje. Vsi se ukvarjajo z moderiranjem vsebine, vendar tega niso dolžni; to počnejo večinoma izven pogleda javnosti in nimajo uradnih standardov glede tega, kako to počnejo. To se mora spremeniti in se začenja.

Toda v tem ključnem trenutku, ki ponuja tako jasno priložnost, da temeljito premislimo, kako platforme delujejo in kaj lahko pričakujemo od njih, bi morda želeli razjasniti naše zgodbe o tem, kakšna bi morala biti ta pričakovanja.

Moderiranje vsebine in različne vrste odgovornosti

YouTube je preživel a niz polemik lansko leto, veliko jih je bilo o otrocih , tako njihovo izkoriščanje kot tudi njihovo ranljivost kot občinstva. Tam je bil polemika o priljubljenem vlogerju PewDiePie , obsojen, ker je v svoje videoposnetke vključil antisemitski humor in nacistične podobe. Potem so bili tu videoposnetki, ki so zdrsnili mimo strožjih standardov, ki jih ima YouTube za svoje Aplikacija za otroke : amaterske različice risank z znanimi liki s čudno vznemirljivimi tretjimi dejanji pripovedi.

Temu je hitro sledilo razkritje celotnih YouTube kanalov, polnih videoposnetki otrok, ki so maltretirani, prestrašeni in izkoriščani — na primer majhni otroci v razkritih oblačilih, pritrjenih z vrvmi ali trakom — ki se zdijo zasnovani tako, da zaobidejo YouTubova pravila proti nasilju in izkoriščanju otrok.

Le nekaj dni pozneje je tudi BuzzFeed poročal, da je YouTube Funkcija samodokončanja je prikazala rezultate, ki so kazali na spolno izkoriščanje otrok . (Če bi vnesli, kako imeti, bi izvedeli, kako imeti s*x s svojimi otroki v samodejnem izpolnjevanju.) V začetku leta so bili videoposnetki izključeni iz strožjega načina za otroke, ki verjetno ne bi smel biti, vključno videoposnetki o LGBTQ in transspolnih vprašanjih .

Predstavniki YouTuba imajo opravičil za vse te napačne korake in obljubil, da bo povečal število moderatorjev, ki pregledujejo njihove videoposnetke, agresivno iskal boljše rešitve umetne inteligence in odstranil oglaševanje z nekaterih vprašljivih kanalov.

Platforme, kot je YouTube, uveljavljajo niz normativnih standardov – smernic, po katerih se pričakuje, da se bodo uporabniki obnašali. Težko je prepričati vsakega uporabnika, da spoštuje te standarde, deloma zato, ker so platforme več let hkrati obljubljale uporabnikom odprto in neomejeno igrišče ter jih vabile, naj naredijo ali povedo, kar hočejo.

In te standarde je težko uveljaviti, deloma zato, ker platforme imajo le malo tradicionalnih mehanizmov upravljanja: ne morejo odpustiti ustvarjalcev vsebine, kot da bi bili plačani producenti. Platforme imajo samo pogoje storitve in pravico do izbrisa vsebine in blokiranja uporabnikov. Poleg tega gospodarske spodbude spodbujajo platforme, da so bolj permisivne, kot trdijo, in da proizvajalce z visoko vrednostjo obravnavajo drugače kot ostale.

Dogodki, kot so izkoriščevalski videoposnetki otrok ali zavajajoče amaterske risanke, izkoriščajo ta sistem. Živijo sredi te ogromne palete videoposnetkov, od katerih mora YouTube odstraniti nekatere podskupine. Nekateri prihajajo od uporabnikov, ki ne poznajo pravil, jih ne zanimajo ali se jim zdi, da je to, kar ustvarjajo, povsem sprejemljivo. Drugi so namerno zasnovani tako, da zdrsnejo mimo moderatorjev, bodisi tako, da ostanejo neopaženi bodisi tako, da se približajo smernicam skupnosti, vendar ne čeznje. Ti videoposnetki včasih zahtevajo težke odločitve o pravici do govora in normah skupnosti.

Video Logana Paula ali rasistični izpadi PewDiePieja so drugačne vrste. Kot je bilo jasno v poročanju o novicah in ogorčenju javnosti, je kritike vznemirjalo, da Paul ni upošteval svoje odgovornosti do svojega občinstva, da bi pokazal več dostojanstva kot ustvarjalec videoposnetkov in izbral občutljivost namesto senzacionalizma.

Dejstvo, da ima 15 milijonov naročnikov, med katerimi je veliko mladih, je marsikoga navedlo, da ima on (in implicitno YouTube) še večjo odgovornost kot drugi youtuberji. Te zvenijo bolj kot tradicionalne medijske skrbi, ki se osredotočajo na učinke na občinstvo, odgovornosti producentov in odgovornost ponudnikov. To bi lahko bila prav tako razprava o Ashtonu Kutcherju in epizoda Punk'd . Kakšna bi bila odgovornost Kutcherja, njegove produkcijske ekipe in MTV-ja, če bi podobno prestopil mejo z eno od svojih potegavščin?

Toda MTV je bil v strukturno drugačnem položaju kot YouTube. Pričakujemo, da bo MTV odgovoren iz več razlogov: imel je možnost pregledati epizodo, preden jo je predvajal, zaposlil je Kutcherja in njegovo ekipo in se je odločil, da mu najprej izroči megafon. Čeprav YouTube omogoča Paulu tudi način, da doseže milijone, in on in YouTube si delita prihodke od oglaševanja, so te ponudbe načeloma namenjene vsem uporabnikom YouTuba.

YouTube je distribucijska platforma, ne ozko grlo distribucije – ali pa je ozko grlo zelo drugačne vrste. To ne pomeni, da YouTube ne moremo ali ne smemo zahtevati odgovornosti. Kot družba bi se lahko odločili, da želimo, da YouTube izpolnjuje popolnoma enake odgovornosti kot MTV ali več. Vendar moramo upoštevati, da te strukturne razlike ne spreminjajo le tega, kar lahko stori YouTube, temveč tudi razloge za uveljavljanje takšnih standardov.

Ali je moderiranje vsebine pravi mehanizem za obvladovanje te odgovornosti?

Nekateri so trdili, da bi moral YouTube odstraniti videoposnetek, preden je to storil Paul. Kolikor lahko rečemo, ocenjevalci YouTuba na prvi pogled niso. (Izgleda videoposnetek je bil pregledan in ni bil odstranjen — to vemo samo na podlagi ta dokaz iz Twitterja. Če želite videti resničen obseg nestrinjanja glede tega, kaj bi moral storiti YouTube, samo preberite dolgo nit komentarjev, ki so sledili temu tvitu.

Paul je prejel a stavka na njegov račun nekakšno opozorilo. In medtem ko so mnogi uporabniki videoposnetek označili kot sporen, si ga je ogledalo veliko, veliko drugih, dovolj, da je postal trend. V svojem PR-odzivu na incident je predstavnik YouTuba dejal, da bi moral posnetek odstraniti, ker je šokanten, senzacionalen ali nespoštljiv.

Vendar ni samoumevno, da Paulov video krši pravilnike YouTuba. Pravilo platforme proti grafičnim slikam, predstavljenim na senzacionalen način, je tako kot vsa njena pravila namerno široko. Lahko trdimo, da je širina pravila tisto, kar omogoča, da videoposnetki, kot je ta, zdrsnejo mimo, ali da je YouTube finančno nagrajen tako, da jim pusti drseti, ali da nejasna pravila otežujejo delo moderatorjev. Ampak mislim, da tega videoposnetka na prvi pogled ne moremo reči preprosto naredil kršiti pravilo.

In ni enostavnega odgovora, kje naj se takšne črte potegnejo. Vsaka svetla črta, ki jo lahko potegne YouTube, se bo mučila s tem, kaj se dogaja. Ali se v videu ne smejo prikazovati trupla? Kaj pa novičarski posnetki z bojišča - tudi posnetki, ki so jih posneli amaterji? Kaj pa javni pogrebi? Ali bi morala biti prepoved iz spoštovanja specifična za žrtve samomora?

zakaj ljudje mislijo, da je bil pristanek na luni ponaredek

Glede na komentarje kritikov je bil tako zaskrbljujoč Paulov veselo, samozavestno komentiranje, njegov govor o samomorilni žrtvi, ki jo je našel, pa tudi prikaz telesa samega. Pokazovanje telesa in zadrževanje na njegovih podrobnostih je bilo del Paulove naključne brezbrižnosti, vendar so bile tudi njegove nepremišljene šale in pretirane reakcije.

Razumno bi bilo trditi, da bi moral YouTube dovoliti okusen dokumentarec o gozdu Aokigahara, ki je zaskrbljen zaradi visoka stopnja samomorov med japonskimi moškimi . Takšen videoposnetek lahko zaradi izobraževalnih ali provokativnih razlogov celo vključuje slike telesa žrtve samomora ali dokaze o njihovi smrti. Pravzaprav YouTube že ima nekaj tovrstnih videoposnetkov različne kakovosti. (Glej eno , 2 , 3 , 4 .)

Če je tako, potem lahko kritiki namigujejo, da bi moral biti YouTube odgovoren za razlikovanje med neobčutljivimi različicami od občutljivih. Spet to zveni bolj kot pričakovanja, ki smo jih imeli od televizijskih omrežij - kar je v redu, če je to tisto, kar želimo, vendar moramo priznati, da bi to od YouTuba zahtevalo veliko več, kot si morda mislimo.

Ali je tako gotovo, da bi moral YouTube odstraniti ta videoposnetek v našem imenu? Ne želim namigovati, da je odgovor ne ali da je da. Opažam le, da to ni lahek primer za sojenje. Drugi način, da to izrazimo, je, kaj bi moral YouTube še odstraniti, kot je senzacionalno ali neobčutljivo ali odbijajoče ali slabega okusa, da bi Paulov video štel za jasno in nesporno kršitev?

Kot družba smo se s tem vprašanjem spopadali že dolgo pred družbenimi mediji. Ali bi morale novice prikazati krste ameriških vojakov, ko so se vrnili iz vojne? Ali naj informativne oddaje prikazujejo grozljive podrobnosti prizorišč zločinov? Kdaj je običajno preveč nazoren video sprejemljiv, ker je vreden novic, poučen ali zgodovinsko pomemben? Ne samo, da odgovor še zdaleč ni jasen, ampak se razlikuje med kulturami in obdobji. Ali naj bi bil ta video prikazan, je sporno in kot družba moramo imeti spor; YouTube ne more odgovoriti namesto nas.

Kako natančno je YouTube vpleten v odločitve svojih zvezdnikov

To ne pomeni, da platforme niso odgovorne za vsebino, ki jo pomagajo pri kroženju. Daleč od tega. YouTube je vpleten – Loganu ponuja priložnost, da odda svoj neokusen videoposnetek, mu pomaga zbrati milijone gledalcev, ki ga bodo takoj dostavili v svoj vir, oblikuje in prilagodi algoritme priporočil, ki povečajo njegovo cirkulacijo, in ogromno dobiček od prihodkov od oglaševanja. se nabira.

Nekateri kritiki opravljajo pomembno delo, saj postavljajo platforme pod drobnogled, da bi bolje razumeli, kako so proizvajalci in platforme prepleteni. Je pa strašno mamljivo potegniti preveč preprosto mejo med pojavom in ponudnikom, slikati platforme s preširokim čopičem. Tisk ljubi zlobneže in YouTube je trenutno eden od njih.

Zmotimo pa se, ko preveč jasno potegnemo te meje sokrivde. Da, YouTube ima finančno korist od uspeha Logana Paula. To samo po sebi ne dokazuje sostorilstva; mora biti značilnost naše razprave o sostorilstvu. Morda bi želeli, da bi delitev prihodkov prinesla večje obveznosti na strani platforme. Ali pa bi morda želeli, da so platforme zaščitene pred odgovornostjo ali obveznostmi, ne glede na finančno ureditev. Morda bi želeli tudi enake obveznosti, ne glede na to, ali so prihodki razdeljeni ali ne. Ali pa bi morda želeli, da se obveznosti posvetijo priljubljenosti in ne prihodku. To so vse možne strukture odgovornosti.

Preprosto je reči, da YouTube spodbuja vlogerje, kot je Paul, da so vedno bolj nezaslišani. Če so ustvarjalci videoposnetkov nagrajeni glede na število ogledov, ne glede na to, ali je ta nagrada finančna ali samo ugledna, je razumljivo, da bodo nekateri ustvarjalci videoposnetkov iskali načine za povečanje teh številk.

Ni pa jasno, da meritve priljubljenosti nujno ali samo vodijo k temu, da ustvarjalci postajajo vse bolj nezaslišani, in v tej taktiki ni ničesar, kar je edinstveno za družbene medije. Medijski znanstveniki že dolgo ugotavljajo, da je nezaslišanost ena od taktik, ki jih producenti uporabljajo, da presežejo nered in zgrabijo gledalce, pa naj gre za bruhanje časopisnih naslovov, odpadne dnevne pogovorne oddaje ali seksualizirane nastope pop zvezdnikov. To skoraj ni edinstveno za YouTube.

Ustvarjalci videoposnetkov v YouTubu izvajajo številne strategije, da bi si prizadevali za priljubljenost in nagrade v njej, pri čemer je nezaslišanost le ena. Zdi se, da je veliko več odvisnih od ponavljanja, ustvarjanja občutka skupnosti ali spremljanja, interakcije s posameznimi naročniki in poskusa biti prvi. Medtem ko bi nagajivci s prekomernim kofeinom, kot je Logan Paul, morda poskušali združiti sebe in svoje kolege blogerje, to ni primarna taktika za razpakiranje vidderjev ali ustvarjalcev sveta Minecrafta ali modnih svetovalcev ali sinhronizatorjev ustnic ali televizijskih rekaperjev ali glasbenih remiksov.

Drugi, kot je Voxova Aja Romano, vidijo Paula kot del a strupena kultura potegavščine v YouTubu ki se je preselil iz Vine, kar je še en način za oblikovanje YouTubove odgovornosti. Toda žanr se lahko razvije in ponudnik, ki ima koristi od tega, lahko gleda drugače ali ga celo spodbuja. To ne odgovarja na vprašanje, kakšno odgovornost imajo za to; samo odpre.

Če potegnemo preveč ravno črto med YouTubovo finančno ureditvijo in vse bolj nezaslišanimi zvijačami Logana Paula, napačno razumemo tako gospodarske pritiske medijev kot kompleksnost popularne kulture. Ne upošteva naukov medijske sociologije, ki pojasnjuje, da je razmerje med pritiski, ki jih vsiljuje industrija, in ustvarjalnimi odločitvami producentov zapleteno in dinamično. In to ne dokazuje, da je moderiranje vsebine pravi način za reševanje te sokrivde.

Prava vrsta obračunavanja

Paulov videoposnetek je bil slabega, slabega okusa. In zdi se mi, da je celoten žanr boffo z naslovom razkazovanje moškosti moralno problematičen in preprosto utrujajoč. In čeprav se morda sliši, kot da zagovarjam YouTube, zagotovo ne. Skupaj z drugimi večjimi platformami družbenih medijev ima YouTube večjo odgovornost za vsebino, ki jo širi, kot je doslej priznal; zgradil je mehanizem za moderiranje vsebine, ki je preveč reaktiven, preveč permisiven in preveč nepregleden, in ga je treba javno obračunati.

Moderiranje vsebine bi moralo biti bolj pregledno, platforme pa bi morale biti bolj odgovorne, ne le za to, kar prečka njihov sistem, temveč tudi za načine, na katere so vpleteni v njegovo proizvodnjo, kroženje in vpliv. Kljub temu je moderiranje vsebine preveč zasnovano na okviru storitev za stranke: nudimo pritožbe, platforma pa se odzove. To je morda dobro za nekatere vrste težav, vendar se izkaže za nezadostnega, če so spori moralni, kulturni, sporni in tekoči.

Odgovornost platform morda ni le zmerjanje boljšega; morda bodo morali olajšati kolektivno in sodelovalno razmišljanje, ki ga zmernost resnično zahteva. Platforme bi lahko ustvarile prostor za to razpravo, zagotovile podatke o pritožbah, tako da vemo, kje so naše lastne skrbi med vsemi drugimi, in svoje odločitve združijo z razlagami, o katerih je mogoče razpravljati.

V zadnjih nekaj letih se je pokazalo delovanje moderiranja vsebin in njegove temeljne omejitve, in to je dobra novica. Zdi pa se tudi, da smo preveč nestrpni, da bi za vse krivili moderiranje vsebine in pričakovali, da bodo platforme prikazale popolnoma izpiljeno moralno stališče vsakič, ko nas moti nekaj, kar tam najdemo. Priznanje, da YouTube ni zgolj kanal, ne pomeni, da je izključno odgovoren za vse, kar je tam na voljo. Po desetletju sprejemanja platform družbenih medijev kot ključnih prizorišč za zabavo, novice in javno izmenjavo, se še vedno trudimo ugotoviti, kaj točno pričakujemo od njih.

Ta esej je prirejen iz objave na Kultura digitalno .

Tarleton Gillespie je glavni raziskovalec pri Microsoft Research New England in pridruženi izredni profesor na oddelku za komunikacijo na univerzi Cornell. Njegova knjiga, Skrbniki interneta: platforme, moderiranje vsebine in skrite odločitve, ki oblikujejo družbene medije , bo maja 2018 objavil Yale University Press. Najlepša hvala Dylanu Mulvinu za pomoč pri pisanju tega članka. Najti Gillespie na Twitterju @TarletonG .


Velika ideja je Voxov dom za pametno razpravo o najpomembnejših vprašanjih in idejah v politiki, znanosti in kulturi – običajno zunanji sodelavci. Če imate idejo za kos, nam pišite na thebigidea@vox.com .

kaj pomeni ol lang sine