Moderering i realtid i livestreams

Moderering i realtid i livestreams: Yubo leder vägen för att skydda unga användare

Yubo letar ständigt efter nya innovativa sätt att öka säkerheten. I vårt tidigare blogginlägg förklarade vi hur vi tar ansvaret gentemot våra yngre Yubo-användare på största allvar. Sedan dess har vi fortsatt att arbeta med vår webbsäkerhetsexpert Annie Mullins OBE för att vidta ett antal säkerhetsåtgärder i appen och har nyligen tagit ett viktigt steg framåt genom att lansera moderering i realtid i livestreams.

Vi använder en kombination av algoritmer och mänsklig moderering för att se över aktiviteten på Yubo så att vi kan identifiera användare som bryter mot våra communityregler och som kan försätta sig själva eller andra i fara under livestreams. Sedan kan vi vidta omedelbara åtgärder, såsom att skicka meddelanden till användare för att förklara deras brott mot reglerna, hur de kan ändra sina beteenden och vad som händer om de inte följer reglerna. Vi kan till exempel tillfälligt stänga av livestreams eller stänga av användares konton.

Yubo är den enda sociala videoappen som använder denna typ av moderering för att skydda tonåringar. Det är ett stort steg. Och visst blir vissa unga användare överraskade när de får varningar från oss. Men vi tror att det viktigaste är att skydda och stödja våra användare och att göra Yubos community till en ännu bättre plats.

I det här blogginlägget tar vi en närmare titt på moderering i realtid och utforskar hur det uppmuntrar till förändrat beteende och att Yubo-användare tar mer ansvar. Samtidigt hjälper det till att minska risken för sexuellt utnyttjande och andra faror. Vi ska även tala med en av våra mest erfarna moderatorer och ta reda på hur våra tonåriga användare svarar på meddelanden om olämpligt beteende eller olämpligt innehåll de lagt upp i appen.

"Vi vet att sociala nätverk kan göra mer och vissa sajter, som Yubo, har redan god praxis för live streaming," säger Andy Burrows, Associate Head of Child Safety Online, NSPCC (2018)

Utbildning och engagemang

Tonåringar experimenterar och tänjer ofta på gränserna i verkliga livet. Det stämmer även i den digitala världen. På nätet kan unga redan ha sett olämpligt beteende och innehåll och kan ibland vara osäkra på vad som är acceptabelt. Det kan handla om att filma sig själv i underkläder eller skriva elaka kommentarer om andra. Alltså är det viktigt att de förstår och tänker på konsekvenserna som dessa beteenden kan ha för dem själva och andra. Som företag måste vi kunna vidta åtgärder när vi ser olämpligt eller olagligt beteende och innehåll i llivestreams på Yubo (som vi kallar för lives).

Våra communityregler är mycket viktiga när det kommer till att sätta upp standarder för användarnas beteende. Våra användare måste godkänna reglerna och vi hänvisar alltid till dessa när vi modererar livestreams. I reglerna framgår det till exempel tydligt att vi har nolltolerans för lives med avklätt innehåll.

Om användare inte följer communityreglerna har vi som policy att utbilda och engagera snarare än att straffa. Det innebär att vi identifierar möjligheter vid regelbrott för att få användarna att förstå och tänka på vad de gjort och uppmuntra dem att förändra sina beteenden i stunden och i framtiden. Vi kan redan se positiva effekter av varningar i realtid i appen och vårt tillvägagångssätt har fått god feedback från brottsbekämpande myndigheter och andra förespråkare av säkerhet på nätet.

Vår rådgivare för säkerhet på nätet, Annie Mullins OBE, säger:

"Jag har arbetat med Yubo för att introducera moderering i realtid för att förhindra att användare försätter sig själva i fara. Detta är ett viktigt steg för att skydda barn på nätet och något som andra sociala medier bör se som ett gott exempel. Ju mer modering i realtid som sker för unga, desto mer kan vi stödja och utbilda dem. Unga personer begår misstag, det är del av att växa upp, men det är viktigt att sociala medier ger dem säkerhetsnät och knuffar dem i rätt riktning när deras beteenden kan vara riskfyllda."

Konsulterande barn- och ungdomspsykiater Dr. Richard Graham lägger till:

"Den digitala världens framtid hänger nu på hur villiga vi är att använda beteendemässiga insikter så att det onda inte överväger det goda. Yubo leder vägen med moderering i realtid och det finns inget som går upp mot att lära sig i stunden."

Insikter från en moderator

Vårt globala team med moderatorer hanterar många olika situationer i livestreams, såsom unga personer som visar upp sig i underkläder, tar av sig kläderna, trakasserar andra användare eller hotar med självskadebeteende.

Vi bad vår moderator Tom* att förklara varför det är så viktigt att vidta åtgärder i lives.

"Innehållet sänds live på nätet, så det är logiskt att vi vidtar åtgärder omedelbart, innan skadan är skedd. Ju snabbare vi kan agera, desto bättre," säger han.

Trots popup-meddelanden om communityreglerna när de går in i livestreams på Yubo, och trots att lives kan ses av alla (inte bara vänner), väljer vissa användare att tänja på gränserna.

Men varför beter sig vissa unga såhär på nätet? Det finns många möjliga orsaker. Vissa gör sig till eller flirtar, andra bryter mot reglerna för att deras idoler och andra kändisar beter sig på ett visst sätt och vissa gör det för att någon annan uppmuntrar dem eller pressar dem till det.

"Det handlar ofta om att få uppmärksamhet, vilket de kanske inte får i verkliga livet," säger Tom. "Att sända live är ett bra sätt att nå många och få många tittare. Killen som inte har tröja på sig kanske till exempel vill visa upp sina muskler."

De möjliga riskerna med livestreaming är mobbning, att pressas till sexuell aktivitet eller att kontaktas av illasinnade främlingar.

Tom förklarar att unga användare ofta lever sig in i appen till en sådan grad att de inte tänker på vad de gör.

"Användare kan fastna "i stunden" och förstår inte de omedelbara riskerna eller att innehållet kanske inte försvinner efter liven. Om de filmar sig själva i underkläder kan någon annan spela in detta, lägga upp videon någon annan stans och använda den mot användaren," säger han.

Om en av Yubos moderatorer ser beteende som bryter mot communityreglerna och kan vara farligt skickar de ett varningsmeddelande till användaren. Meddelandet kan till exempel ange att liven kommer att stängas om en minut, eller varna användaren att hen kommer att stängas av från appen om de inte förändrar sitt beteende.

Yubo är den enda sociala videoappen som gör detta. Vi tror att det är viktigt att våra unga användare förstår vad som gått snett och vill uppmuntra dem att förändra sina beteenden. Det bästa sättet att lära sig är trots allt i stunden och genom upplevelser i verkliga livet.

Sedan kan vi vidta lämpliga åtgärder, såsom att ta bort innehållet, att stänga av eller stänga användarens konto och att rapportera potentiellt olaglig aktivitet till polisen och andra myndigheter (till exempel Internet Watch Foundation, IWF). Vårt mål är att hjälpa användare att ändra sina beteenden innan vi måste vidta dessa åtgärder, men viktigast av allt är att vi skyddar dem och andra användare.

"Tyvärr ser vi unga som uppvisar självskadebeteende eller talar om suicid," säger Tom. "Även om de som tittar på liven försöker att hjälpa är de inte utbildade experter och kan oavsiktligen göra saken värre. Att se någon som talar om självskadebeteende kan även utlösa liknande känslor hos andra användare."

Vi tillåter inte innehåll som rör självskadebeteende på Yubo och förklarar anledningen till detta för våra unga användare. Att kunna vidta åtgärder i realtid innebär att vi kan hjälpa användare i stunden och hänvisa till organisationer som kan tillhandahålla stöd.

"Jag skulle säga att ... den här appen ser ut att bli en ledare inom säkerhet för livesänd video." Anne Collier, NetFamilyNews (augusti 2017)

Support och skydd

På det stora hela svarar Yubo-användare positivt på moderering i realtid. De är inte vana vid appar som kommunicerar med dem på detta sätt men tar generellt sett emot notiserna väl och följer anvisningarna. Om någon till exempel får en varning för att de klär av sig på kamera slutar de vanligtvis så snart de ser meddelandet och sätter på sig kläderna igen.

Tom noterar att användare ofta tackar honom för hans åtgärder, eftersom det innebär att de inte själva måste hantera svåra situationer. Om de känner sig pressade att bete sig på ett visst sätt på nätet kan det kännas bra att vi håller ett öga på situationen och hjälper till att hantera förväntningarna.

Många av våra yngre användare berättar för sina vänner om reglerna och att Yubos moderatorer är där för att hjälpa. Detta är ett tydligt tecken: trots att unga vill vara oberoende behöver de fortfarande support. Att utbilda en tonåring kan ha en kraftig effekt i hela deras nätverk. Vi har fått många positiva kommentarer om moderering i realtid från våra yngre användare. Till exempel: "Jag tycker att det är användbart och håller väl appens community säkrare och renare" och "Det är en väldigt bra idé, det ger folk chansen att ändra sina beteenden och om inte så leder det till konsekvenser."

En undersökning från Childnet visar att mer än en av tio 8- till 17-åringar har sänt live. Livestreaming är en del av nätet. Vi tror att moderering i realtid är ett viktigt verktyg för att hjälpa unga att få en tryggare upplevelse på sociala videoappar.

Enligt Anne Collier är det viktigt att skapa en digital gemenskap med "vägledd praxis": en gemenskap där unga kan känna sig självsäkra, glada, respekterade och trygga. Vårt mål är att vara ledare inom säkerhet på nätet och vi kommer därför att fortsätta att utveckla innovativa säkerhetsfunktioner för Yubo.

"Yubo ska ha en eloge för sin bearbetning av säkerhetsfunktionerna för att göra plattformen tryggare för tonåringar." Julie Inman Grant, Australiens eSafety Commissioner (mars 2018)

Fem Yubo-policyer som hjälper unga

• Yubo har en lägsta åldersgräns på 13 år och användare måste ange sina faktiska uppgifter, inklusive mobilnummer. Vi använder teknik och moderatorer för att identifiera minderåriga profiler och blockera dessa.
• Yubo-användare kan ange egna inställningar, till exempel huruvida de vill visa sina platser och vem de vill prata med.
• Varje användare måste godkänna communityreglerna och följa dessa, inklusive regler om mobbning, nakenhet, fejkade profiler och annat olämpligt eller olagligt beteende.
• Vi använder innovativ teknik och mänskliga moderatorer för att se vad som händer på Yubo och vidta åtgärder vid brott mot reglerna.
• Det är enkelt att rapportera problem eller frågor till oss, via flagg-ikonen i appen eller vårt säkerhetscenter. Vi strävar efter att svara på rapporter inom 24 timmar och prioriterar nödfall.