Realtime interventie bij sociale video's

Realtime interventie bij sociale video's: Yubo neemt het voortouw om risico's voor jongeren te verminderen

Bij Yubo zijn we altijd op zoek naar manieren om te innoveren op het gebied van online veiligheid. In onze vorige blog hebben we uitgelegd hoe we onze verantwoordelijkheid voor jongere Yubo-gebruikers zeer serieus nemen. Sindsdien hebben we verder gewerkt met online veiligheidsexpert Annie Mullins OBE om een aantal veiligheidsmaatregelen in de app te implementeren en we hebben onlangs een belangrijke stap voorwaarts gezet door de introductie van real-time interventie in live streams.

Met een combinatie van algoritmes en menselijke moderatoren monitoren we de activiteit op Yubo, zodat we gebruikers kunnen identificeren die onze community-richtlijnen overtreden en die zichzelf of anderen in gevaar zouden kunnen brengen tijdens het livestreamen. We nemen dan onmiddellijk actie en sturen een bericht naar de gebruiker waarin we uitleggen hoe ze de grens hebben overschreden, hoe ze hun gedrag kunnen veranderen en welke actie we zullen ondernemen als ze zich niet aan de regels houden. Onze opties zijn onder andere het tijdelijk uitschakelen van de livestream en het blokkeren van hun account.

Yubo is de enige sociale video app die op deze manier ingrijpt om tieners te beschermen. Ja, het is een gewaagde zet. Ja, sommige jongeren zijn verbaasd als ze een waarschuwingsbericht van ons ontvangen. Maar wij geloven dat het belangrijkste is om onze gebruikers te ondersteunen en te beschermen en de community van Yubo een nog betere plek te maken.

In dit blog nemen we een kijkje bij live interventie en onderzoeken we hoe het gedragsverandering bevordert door Yubo-gebruikers aan te moedigen veiliger te blijven en verantwoordelijker te zijn, en ook hoe het helpt het risico op seksuele uitbuiting en andere problemen te verkleinen. We praten ook met een van onze meest ervaren moderators en komen te weten hoe onze tienergebruikers reageren op zijn berichten over ongepast gedrag of ongepaste content die ze hebben gepost.

“We weten dat sociale netwerken meer kunnen doen en sommige sites zoals Yubo hebben al goede praktijken op het gebied van livestreaming.” Andy Burrows, Associate Head of Child Safety Online, NSPCC (2018)

Voorlichten en betrekken

Net zoals tieners in het echte leven kunnen experimenteren en grenzen testen, gebeurt dat ook in de digitale wereld. Online hebben jongeren misschien al ongepast gedrag of ongepaste content gezien en ze weten niet altijd zeker wat toelaatbaar is. Of het nu gaat om het filmen van zichzelf in hun ondergoed of het maken van vervelende opmerkingen over iemand, het is belangrijk dat ze begrijpen en nadenken over de gevolgen die hun gedrag voor zichzelf en anderen kan hebben. Bovendien moeten we als bedrijf in staat zijn om actie te ondernemen wanneer we ongepast of illegaal gedrag en content zien binnen live streams op Yubo (die we Lives noemen).

Onze community-richtlijnen zijn essentieel bij het vaststellen van normen voor gebruikersgedrag - onze gebruikers moeten ermee instemmen zich eraan te houden en we verwijzen er altijd naar als we ingrijpen in livestreams. We maken in deze richtlijnen heel duidelijk dat we nul tolerantie hebben voor naaktheid en poseren in ondergoed in Lives, bijvoorbeeld.

Als deze richtlijnen niet worden gevolgd, is het ons beleid om onze jongere gebruikers te betrekken en voor te lichten in plaats van hen te straffen. Dat betekent dat we gebruik maken van de mogelijkheid om hen te helpen begrijpen en te overdenken wat ze fout hebben gedaan. We willen hen aansporen hun gedrag op dat moment en in de toekomst te veranderen. We zien nu al het positieve effect van realtime in-app waarschuwingen en onze aanpak wordt toegejuicht door rechtshandhavingsinstanties, vrijwilligersorganisaties en andere voorvechters van online veiligheid.

Zoals onze online veiligheidsadviseur Annie Mullins OBE zegt,

“Ik heb samengewerkt met Yubo om live interventies te implementeren om te helpen voorkomen dat gebruikers zichzelf in gevaar brengen. Dit is een belangrijke stap voorwaarts op het gebied van online veiligheid voor kinderen en andere social media zouden dit voorbeeld moeten volgen. Hoe meer realtime interventies met jongeren plaatsvinden, hoe meer we hen kunnen steunen en voorlichten. Jongeren maken fouten - dat hoort bij het opgroeien - maar het is belangrijk dat aanbieders van social media een vangnet voor hen bieden en hen een duwtje in de juiste richting geven wanneer hun gedrag hen in gevaar zou kunnen brengen.”

Dr. Richard Graham, kinder- en jeugdpsychiater, voegt hieraan toe,

“De toekomst van de digitale wereld hangt nu af van hoe bereid we zijn om gedragswetenschappelijke inzichten te gebruiken om te voorkomen dat goede dingen door slechte worden verpest. Yubo neemt het voortouw met live interventie, en er is geen betere manier om te leren dan op het moment zelf.”

Observaties van een moderator

Ons wereldwijde team van moderators houdt zich bezig met uiteenlopende situaties in livestreams, waaronder jongeren die in hun ondergoed poseren, hun kleren uittrekken, andere gebruikers lastigvallen en dreigen zichzelf iets aan te doen.

We vroegen een van onze moderators, Tom*, om uit te leggen waarom het zo belangrijk is om in te grijpen in Lives.

“De content wordt live online uitgezonden, dus is het logisch dat we onmiddellijk ingrijpen voordat er schade wordt aangericht. Hoe sneller we erbij betrokken zijn, hoe beter," zegt hij.

Ondanks dat ze een popup krijgen over onze community-richtlijnen wanneer ze live streams op Yubo starten en weten dat Lives door iedereen gezien kunnen worden (niet alleen door hun vrienden), kiezen sommige gebruikers er toch voor om de grenzen te verleggen.

Waarom gedragen jongeren zich dan zo online? Er zijn een aantal motivaties - sommigen doen het om te pronken of te flirten, anderen omdat ze hun idolen en andere beroemdheden op een bepaalde manier zien doen of omdat iemand hen aanmoedigt of onder druk zet om het te doen.

“Het gaat er vaak om aandacht te krijgen, die ze in het echte leven misschien niet krijgen", aldus Tom. "Live gaan is een goede manier om veel mensen te bereiken en veel views te krijgen. De jongens die geen shirt aanhebben, willen bijvoorbeeld met hun spieren pronken.”

De potentiële risico's van livestreaming zijn onder meer gepest worden, gedwongen worden tot seksueel getinte activiteiten en benaderd worden door vreemden met kwade bedoelingen.

Tom legt uit hoe jongere gebruikers vaak zo opgaan in de app, dat ze niet meer nadenken over wat ze aan het doen zijn.

“Mensen zijn vaak gefixeerd op het 'moment' en beseffen niet wat de directe risico's zijn of dat de content na de Live misschien niet meer verdwijnt. Als ze zichzelf in hun ondergoed filmen, kan iemand dat opnemen, het ergens anders publiceren en het tegen hen gebruiken", zegt hij.

Als een Yubo moderator iets ziet gebeuren dat in strijd is met onze community-richtlijnen en iemand in gevaar kan brengen, sturen ze een waarschuwingsbericht naar de gebruiker. Het bericht kan bijvoorbeeld waarschuwen dat de Live binnen een minuut zal worden afgesloten of het kan de gebruiker waarschuwen dat ze zullen worden geblokkeerd van de app als ze hun gedrag niet veranderen.

Wij zijn de enige sociale video app die dit doet omdat we het belangrijk vinden dat onze jongere gebruikers begrijpen wat het probleem is en dat we ze aanmoedigen om hun gedrag te veranderen. De beste manier om te leren is immers op het moment zelf en door ervaringen uit het echte leven.

We nemen dan de gepaste maatregelen, waaronder het verwijderen van de content, het (tijdelijk) blokkeren van het account van de gebruiker en het melden van mogelijk illegale activiteiten aan de politie en andere autoriteiten, zoals de Internet Watch Foundation (IWF). Het is ons doel gebruikers te helpen hun gedrag te veranderen voordat het zover komt, maar uiteindelijk zullen we doen wat goed is voor hen en andere gebruikers.

“Helaas komen we vaak jongeren tegen die zichzelf verwonden of suïcidaal zijn," zegt Tom. "Zelfs als de mensen die naar de Live kijken proberen te helpen, zijn ze geen getrainde professionals en kunnen ze de situatie onbedoeld erger maken. Als je iemand ziet praten over zelfbeschadiging, kan dat ook bij andere gebruikers soortgelijke gevoelens oproepen.”

We staan geen zelfbeschadiging toe op Yubo en we leggen aan onze jongere gebruikers uit waarom dit het geval is. Live interventie betekent dat we iemand op dat cruciale moment kunnen helpen en doorverwijzen naar hulporganisaties.

“Ik durf te zeggen dat deze app zich ontwikkelt tot een leider op het gebied van veilige live streams.”Anne Collier, NetFamilyNews (Augustus 2017)

Ondersteunen en beschermen

Over het algemeen reageren Yubo-gebruikers positief op realtime interventie. Ze zijn niet gewend aan andere apps die op deze manier communiceren, maar over het algemeen ontvangen ze de meldingen goed en voldoen ze aan onze verzoeken. Als iemand bijvoorbeeld een waarschuwing krijgt terwijl hij zich voor de camera aan het uitkleden is, stopt hij of zij meestal zodra de melding verschijnt en worden de kleren weer aangetrokken.

Tom merkt op dat gebruikers hem vaak dankbaar zijn dat hij ingrijpt, omdat ze dan niet zelf met een moeilijke situatie te maken krijgen. Als ze het gevoel hebben dat ze onder druk staan om zich online op een bepaalde manier te gedragen, is het goed dat ze weten dat wij er zijn om een oogje in het zeil te houden en hen te helpen met die verwachtingen om te gaan.

Veel van onze jongere gebruikers vertellen hun vrienden over onze regels en hoe de Yubo-moderators er zijn om te helpen - een duidelijk teken dat hoewel jongeren graag onafhankelijk zijn, ze toch steun nodig hebben. Het voorlichten van één tiener kan namelijk een krachtig netwerkeffect hebben. We hebben veel positieve reacties ontvangen over live interventie van onze jongere gebruikers, waaronder “Ik denk dat het nuttig is, het houdt de community veiliger en netter denk ik.” en “Het is een goed idee, het geeft mensen de kans om hun gedrag te veranderen en zo niet, dan worden ze geconfronteerd met de gevolgen.”

Uit onderzoek door Childnet blijkt dat meer dan één op de tien 8- tot 17-jarigen 'live' is gegaan, live streaming is niet meer weg te denken. Wij geloven dat realtime ingrijpen een essentieel instrument is om jongeren een veiligere ervaring te bieden op sociale videoapps.

In Anne Collier’s woorden, is het belangrijk om een digitale community op te bouwen om “begeleid te oefenen” — een plek waar jongeren zelfverzekerd, gelukkig, respectvol en veilig kunnen zijn. Met onze visie om een leider in online veiligheid te zijn, zullen we innovatieve veiligheidsfuncties voor Yubo blijven ontwikkelen zodat we precies dat kunnen doen.

“Ik prijs Yubo voor de grondige herziening van zijn veiligheidsfuncties om zijn platform veiliger te maken voor tieners.” Julie Inman Grant, Australian eSafety Commissioner (Maart 2018)

Vijf manieren waarop Yubo jongeren helpt

• Yubo heeft een minimum leeftijdsgrens van 13 jaar en gebruikers moeten hun echte gegevens opgeven, inclusief hun mobiele nummer. We gebruiken technologie en moderatoren om te jonge gebruikers te identificeren en te blokkeren.
• Yubo-gebruikers kunnen hun eigen voorkeuren instellen, waaronder het al dan niet tonen van hun locatie en bepalen met wie ze praten.
• Elke gebruiker moet zich houden aan onze community-richtlijnen, die regels bevatten over pesten, naaktheid, nepprofielen en ander ongepast of illegaal gedrag.
• We gebruiken innovatieve technologie en menselijke moderatoren om te controleren wat er op Yubo gebeurt en actie te ondernemen als we zien dat onze regels worden overtreden.
• Het is gemakkelijk om problemen of zorgen aan ons te melden, via het vlaggetje in de app of bij ons Veiligheidscentrum. Wij streven ernaar om binnen 24 uur te reageren op meldingen en geven prioriteit aan noodgevallen.