Realtidsintervention på social video

Realtidsintervention på social video: Yubo tager føringen for at reducere risici for unge mennesker

Her hos Yubo leder vi altid efter måder at innovere i onlinesikkerhed. I vores forrige blog forklarede vi, hvordan vi tager vores ansvar over for yngre Yubo-brugere meget alvorligt. Siden da har vi fortsat arbejdet med onlinesikkerhedsekspert Annie Mullins OBE for at indføre en række sikkerhedsforanstaltninger på appen, og vi har for nylig taget et vigtigt skridt fremad ved at introducere realtidsintervention i livestreams.

Ved hjælp af en kombination af algoritmer og menneskelige moderatorer overvåger vi aktivitet på Yubo, så vi kan identificere brugere, der overtræder vores retningslinjer for fællesskabet, og som kan bringe sig selv eller andre i fare, mens de livestreamer. Derefter skrider vi straks til handling og sender en besked til brugeren, der forklarer, hvordan de er gået over grænsen, hvordan de ændrer deres adfærd, og hvilken handling vi vil tage, hvis de ikke overholder. Vores muligheder omfatter midlertidigt at deaktivere livestream og suspendere deres konto.

Yubo er den eneste sociale video-app, der griber ind på denne måde for at holde teenagere mere sikre. Ja, det er et dristig skridt. Ja, nogle unge mennesker bliver overraskede, når de får en advarselsmeddelelse fra os. Men vi tror på, at det vigtigste er at støtte og beskytte vores brugere og gøre Yubo-samfundet til et endnu bedre sted at være.

I denne blog kigger vi nærmere på live-intervention og udforsker, hvordan det fremmer adfærdsændringer ved at opmuntre Yubo-brugere til at forblive sikrere og være mere ansvarlige samt hjælpe med at reducere risikoen for seksuel udnyttelse og andre problemer. Vi taler også med en af vores mest erfarne moderatorer og finder ud af, hvordan vores teenagebrugere reagerer på hans beskeder om upassende opførsel eller upassende indhold, de har lagt op.

"Vi ved, at der er mere, som sociale netværk kan gøre, og nogle websteder som Yubo har allerede god praksis med at streame live." Andy Burrows, associeret chef for børnesikkerhed online, NSPCC (2018)

Uddanne og engagere

Ligesom teenagere måske eksperimenterer og afprøver grænser i det virkelige liv, sker det samme i den digitale verden. På nettet kan unge allerede have set upassende adfærd eller indhold og er ikke altid sikre på, hvad der er acceptabelt. Uanset om det er at filme sig selv i deres undertøj eller komme med ubehagelige kommentarer om nogen, er det vigtigt, at de forstår og reflekterer over de konsekvenser, deres adfærd kan have for dem og andre. Ydermere skal vi som virksomhed være i stand til at skride til handling, når vi ser upassende eller ulovlig adfærd og indhold i livestreams på Yubo (som vi kalder Lives).

Vores retningslinjerne for fællesskab er essentielle for at sætte standarder for brugeradfærd — vores brugere skal acceptere at overholde dem, og vi henviser altid til dem, når vi griber ind i livestreams. Vi gør det meget tydeligt i disse retningslinjer, at vi har nultolerance over for nøgenhed og posering i undertøj i for eksempel Lives.

Hvis disse retningslinjer ikke følges, er det vores politik at engagere og uddanne vores yngre brugere frem for at straffe dem. Det betyder, at man bruger muligheder, når regler er blevet brudt, for at hjælpe dem med at forstå og tænke over, hvad de har gjort forkert, og tilskynde dem til at ændre deres adfærd i det øjeblik og i fremtiden. Vi kan allerede se den positive virkning af advarsler i realtid i appen, og vores tilgang er blevet hilst velkommen af retshåndhævelse, velgørende organisationer og andre fortalere for onlinesikkerhed.

Som vores online sikkerhedsrådgiver Annie Mullins OBE siger,

"Jeg har arbejdet sammen med Yubo om at sætte live-interventioner på plads for at hjælpe med at forhindre dets brugere i at udsætte sig selv for risiko. Dette er et vigtigt skridt på vejen inden for børnesikkerhedsarenaen, og som andre sociale medievirksomheder bør overveje at følge. Jo flere realtidsinterventioner, der finder sted med unge mennesker, jo mere vil vi være i stand til at støtte og uddanne dem. Unge mennesker begår fejl - det er en del af opvæksten - men det er vigtigt, at udbydere af sociale medier tilbyder sikkerhedsnet til dem og skubber dem i den rigtige retning, når deres opførsel kan bringe dem i fare.”

Konsulent børne- og ungdomspsykiater Dr. Richard Graham tilføjer:

"Fremtiden for den digitale verden hviler nu på, hvor villige vi er til at bruge adfærdsmæssige indsigter til at forhindre, at det onde ødelægger det gode. Yubo fører an med live intervention, og der er ingen bedre måde at lære på end i øjeblikket."

En moderators observationer

Vores globale team af moderatorer håndterer en række situationer i livestreams, herunder unge mennesker, der poserer i deres undertøj, tager deres tøj af, chikanerer andre brugere og truer med selvskade.

Vi spurgte en af vores moderatorer, Tom*, om at forklare, hvorfor det er så vigtigt at gribe ind i Lives.

"Indholdet bliver transmitteret live online, så det giver mening, at vi griber ind umiddelbart før, der sker skade. Jo hurtigere vi engagerer os, jo bedre, siger han.

På trods af at de har modtaget en popup om vores retningslinjer for fællesskabet, når de går ind i livestreams på Yubo og ved, at Lives kan ses af alle (ikke kun deres venner), vælger nogle brugere stadig at skubbe grænserne.

Så hvorfor opfører unge mennesker sig sådan på nettet? Der er en række motivationer - nogle gør det for at vise sig eller flirte, andre fordi de ser deres idoler og andre berømtheder opføre sig på en bestemt måde, eller fordi nogen opmuntrer dem eller sætter dem under pres for at gøre det.

"Det handler ofte om at få opmærksomhed, som de måske ikke får i virkeligheden," kommenterer Tom. "At gå live er en god måde at nå ud til mange mennesker og få masser af visninger på. De fyre, der går skjorteløse, vil f.eks. vise deres muskler."

De potentielle risici ved livestreaming inkluderer at blive mobbet, at blive tvunget til seksuelt eksplicit aktivitet og at blive kontaktet af fremmede med dårlige hensigter.

Tom forklarer, hvordan yngre brugere ofte bliver så fordybet i appen, at de ikke tænker på, hvad de laver.

"Folk bliver ofte grebet af at være "i øjeblikket" og forstår ikke de umiddelbare risici, eller at indholdet måske ikke forsvinder efter Livet. Hvis de filmer sig selv i deres undertøj, kan nogen fange det, udgive det et andet sted og bruge det imod dem," påpeger han.

Hvis en Yubo-moderator ser noget ske, der overtræder vores retningslinjer for fællesskabet, og som kan bringe nogen i fare, sender de en advarselsmeddelelse til brugeren. Meddelelsen kan sige, at Live vil blive lukket ned om et minut, eller den kan advare brugeren om, at de vil blive suspenderet fra appen, hvis de ikke ændrer deres adfærd.

Vi er den eneste sociale video-app, der gør dette, da vi synes, det er vigtigt, at vores yngre brugere forstår, hvad problemet er, og at vi opfordrer dem til at ændre, hvad de gør. Når alt kommer til alt, er den bedste måde at lære på i nuet og gennem oplevelsen i det virkelige liv.

Vi træffer derefter de relevante handlinger, hvilket kan omfatte fjernelse af indholdet, suspendering eller lukning af brugerens konto og rapportering af potentielt ulovlig aktivitet til politiet og andre myndigheder, såsom Internet Watch Foundation (IWF). Det er vores mål at hjælpe brugere med at ændre deres adfærd, før det når til det punkt, men i sidste ende vil vi gøre det, der er rigtigt for dem og andre brugere.

"Desværre er en af de ting, vi støder på, unge mennesker, som skader sig selv eller selvmorder," siger Tom. "Selv hvis de mennesker, der ser Livet, forsøger at hjælpe, er de ikke uddannede professionelle og kan utilsigtet forværre situationen. At se nogen tale om selvskade, kan også udløse lignende følelser hos andre brugere."

Vi tillader ikke selvskadende indhold at forblive på Yubo, og vi forklarer vores yngre brugere, hvorfor det er tilfældet. Live-intervention betyder, at vi kan hjælpe nogen i det afgørende øjeblik og lede dem til at støtte organisationer.

"Jeg vil vove at sige, at ... denne app er ved at forme sig til at blive førende inden for livestreamet videosikkerhed." Anne Collier, NetFamilyNews (august 2017)

Støt og beskyt

Generelt reagerer Yubo-brugere positivt på realtidsintervention. De er ikke vant til, at andre apps kommunikerer på denne måde, men de modtager generelt meddelelserne godt og overholder vores anmodninger. Hvis nogen modtager en advarsel, mens de f.eks. er ved at klæde sig af på kamera, stopper de som regel, så snart de ser beskeden og tager tøjet på igen.

Tom bemærker, at brugerne ofte takker ham for at have grebet ind, da det betyder, at de ikke selv skal håndtere en vanskelig situation. Hvis de føler sig under pres for at opføre sig på en bestemt måde online, er det godt, at de ved, at vi er der for at holde øje med tingene og hjælpe dem med at styre disse forventninger.

Mange af vores yngre brugere fortæller deres venner om vores regler, og hvordan Yubo-moderatorerne er der for at hjælpe - et tydeligt tegn på, at selvom unge kan lide at være uafhængige, har de stadig brug for støtte. Det kan faktisk have en stærk netværkseffekt at uddanne en teenager. Vi har modtaget en masse positive kommentarer om live-intervention fra vores yngre brugere, herunder "Jeg synes, det er nyttigt, holder bare samfundet sikrere og renere, tror jeg" og "Det er en rigtig god idé, det giver folk en chance for at ændre deres adfærd og hvis ikke, så står de over for konsekvenserne."

Med forskning foretaget af Childnet, der afslører, at mere end én ud af 10 otte til 17-årige er gået live, er livestreaming kommet for at blive. Vi mener, at realtidsintervention er et vigtigt værktøj til at hjælpe unge med at få en sikrere oplevelse på sociale videoapps.

Med  Anne Colliers ord er det vigtigt at opbygge et digitalt fællesskab af "guidet praksis"  et, hvor unge kan være trygge, glade, respektfulde og trygge. Med vores vision om at være førende inden for online sikkerhed, vil vi fortsætte med at udvikle innovative sikkerhedsfunktioner til Yubo, så vi kan gøre netop det.

"Jeg bifalder Yubo for omfattende omarbejdelse af sine sikkerhedsfunktioner for at gøre dens platform mere sikker for teenagere. " Julie Inman Grant, australsk kommissær for e-sikkerhed (marts 2018)

Fem måder Yubo hjælper unge mennesker på

• Yubo har en minimumsaldersgrænse på 13 år, og brugere skal oplyse deres rigtige oplysninger, herunder deres mobilnummer. Vi anvender teknologi og moderatorer til at identificere mindreåriges profiler og blokere dem.
• Yubo-brugere kan indstille deres egne præferencer, herunder om de vil vise deres placering og beslutte, hvem de taler med.
• Hver bruger skal acceptere at overholde vores retningslinjer for fællesskabet, som inkluderer regler om mobning, nøgenhed, falske profiler og anden upassende eller ulovlig adfærd.
• Vi bruger innovativ teknologi og menneskelige moderatorer til at tjekke, hvad der sker på Yubo, og skride til handling, hvis vi ser vores regler blive brudt.
• It’s easy to report any problems or concerns to us, via the flag icon in the app or on our Safety Centre. We aim to respond to reports within 24 hours and prioritize emergencies.