'Bericht verwijderen' of 'Toch sturen'? Hoe we jongeren in staat stellen hun persoonlijke informatie op Yubo te beschermen

Jarenlang is kinderen en tieners verteld dat ze moeten "nadenken voordat ze iets posten". Maar is dit nog wel een realistische boodschap in een wereld waarin ons online- en offline leven meer dan ooit vervaagd zijn en we allemaal veel relaxter zijn over het delen van onze persoonlijke informatie?

“Het is belangrijker dan ooit om voorzichtig te zijn met wat je deelt in je digitale ruimtes," zegt Annie Mullins OBE, die ons adviseert over veiligheid bij Yubo. "Het kan heel gemakkelijk zijn om in een gesprek met iemand op social media verzeild te raken en te denken dat het oké is om te vertellen waar je woont, naar welke school je gaat, of wat je telefoonnummer of e-mailadres is.” 

“Ons advies aan jongeren is om op de rem te trappen en even de tijd te nemen voordat je dit soort persoonlijke informatie deelt met iemand met wie je nog maar een paar keer online hebt gechat," voegt ze eraan toe. "Het is vaak beter om het zekere voor het onzekere te nemen en bepaalde persoonlijke gegevens voor jezelf te houden.”

Bij Yubo vinden we het belangrijk dat onze gebruikers een zo goed mogelijke ervaring hebben op de app. Daarom zijn we begonnen jongeren te vragen of ze zeker weten dat ze hun persoonlijke gegevens willen delen. Onlangs hebben we een functie in privéchat geïntroduceerd die een pop-up laat verschijnen wanneer iemand een zin intypt zoals 'Ik woon in Londen' en gebruikers vervolgens de kans geeft om van gedachten te veranderen over het sturen van die zin.

Natuurlijk zijn veel jongeren zich ervan bewust dat hun gegevens waardevol zijn, maar als ze het gevoel hebben dat ze met iemand praten die ze vertrouwen, vergeten ze soms dat er misbruik van kan worden gemaakt. Zelfs algemene informatie, zoals de naam van je stad of dorp, kan worden gebruikt om je adres te achterhalen, de plaatsen waar je vaak komt en wie je vrienden en familie zijn. Als je openbare profielen hebt op veel sociale netwerken, kan je digitale voetafdruk vreemden waardevolle informatie verschaffen die kan worden gebruikt om je te dwingen iets te doen wat je niet wilt doen.

Onze nieuwe pop-upfunctie bevindt zich nog in het beginstadium, maar levert nu al goede resultaten op: we sturen elke dag ongeveer 20.000 pop-ups en 12% van onze gebruikers die deze waarschuwingen ziet, besluit hun persoonlijke gegevens niet te sturen. De tool maakt gebruik van een algoritme om ons portfolio van innovatieve veiligheidstools verder uit te breiden. Zo gebruiken we bijvoorbeeld ook AI voor leeftijdscontrole en we grijpen in realtime in tijdens livestreams als we denken dat iemand zichzelf of anderen in gevaar brengt.

“We proberen het juiste evenwicht te vinden tussen het aanmoedigen van deelname en het bieden van bescherming aan de vele jongeren in onze community," zegt onze COO Marc-Antoine Durand. "Deze nieuwe pop-up is een mooi voorbeeld van hoe we tieners helpen om slimme keuzes te maken. Het gaat erom hen aan te moedigen voorzichtiger te zijn en controle te nemen over hun digitale voetafdruk.”

Nu we het nieuwe decennium ingaan, zien we dat er in de hele sector meer aandacht is voor het centraal stellen van veiligheid bij de ontwikkeling van apps en websites en om gebruikers in staat te stellen hun online ervaring beter te beheren. Zo heeft de eSafety Commissioner van Australië onlangs een ‘Safety by Design’ initiatief gestart. Met meer dan 25 miljoen leden over de hele wereld, zullen we ons blijven richten om van Yubo een veilige plek te maken voor jonge mensen om nieuwe vrienden te maken - in 2020 en daarna.

Bezoek het Yubo Veiligheidscentrum voor meer informatie en advies.

Bericht verwijderen' of 'Toch sturen'?

Realtime interventie bij sociale video's: Yubo neemt het voortouw om risico's voor jongeren te verminderen

Bij Yubo zijn we altijd op zoek naar manieren om te innoveren op het gebied van online veiligheid. In onze vorige blog hebben we uitgelegd hoe we onze verantwoordelijkheid voor jongere Yubo-gebruikers zeer serieus nemen. Sindsdien hebben we verder gewerkt met online veiligheidsexpert Annie Mullins OBE om een aantal veiligheidsmaatregelen in de app te implementeren en we hebben onlangs een belangrijke stap voorwaarts gezet door de introductie van real-time interventie in live streams.

Met een combinatie van algoritmes en menselijke moderatoren monitoren we de activiteit op Yubo, zodat we gebruikers kunnen identificeren die onze community-richtlijnen overtreden en die zichzelf of anderen in gevaar zouden kunnen brengen tijdens het livestreamen. We nemen dan onmiddellijk actie en sturen een bericht naar de gebruiker waarin we uitleggen hoe ze de grens hebben overschreden, hoe ze hun gedrag kunnen veranderen en welke actie we zullen ondernemen als ze zich niet aan de regels houden. Onze opties zijn onder andere het tijdelijk uitschakelen van de livestream en het blokkeren van hun account.

Yubo is de enige sociale video app die op deze manier ingrijpt om tieners te beschermen. Ja, het is een gewaagde zet. Ja, sommige jongeren zijn verbaasd als ze een waarschuwingsbericht van ons ontvangen. Maar wij geloven dat het belangrijkste is om onze gebruikers te ondersteunen en te beschermen en de community van Yubo een nog betere plek te maken.

In dit blog nemen we een kijkje bij live interventie en onderzoeken we hoe het gedragsverandering bevordert door Yubo-gebruikers aan te moedigen veiliger te blijven en verantwoordelijker te zijn, en ook hoe het helpt het risico op seksuele uitbuiting en andere problemen te verkleinen. We praten ook met een van onze meest ervaren moderators en komen te weten hoe onze tienergebruikers reageren op zijn berichten over ongepast gedrag of ongepaste content die ze hebben gepost.

“We weten dat sociale netwerken meer kunnen doen en sommige sites zoals Yubo hebben al goede praktijken op het gebied van livestreaming.” Andy Burrows, Associate Head of Child Safety Online, NSPCC (2018)

Net zoals tieners in het echte leven kunnen experimenteren en grenzen testen, gebeurt dat ook in de digitale wereld. Online hebben jongeren misschien al ongepast gedrag of ongepaste content gezien en ze weten niet altijd zeker wat toelaatbaar is. Of het nu gaat om het filmen van zichzelf in hun ondergoed of het maken van vervelende opmerkingen over iemand, het is belangrijk dat ze begrijpen en nadenken over de gevolgen die hun gedrag voor zichzelf en anderen kan hebben. Bovendien moeten we als bedrijf in staat zijn om actie te ondernemen wanneer we ongepast of illegaal gedrag en content zien binnen live streams op Yubo (die we Lives noemen).

Onze community-richtlijnen zijn essentieel bij het vaststellen van normen voor gebruikersgedrag - onze gebruikers moeten ermee instemmen zich eraan te houden en we verwijzen er altijd naar als we ingrijpen in livestreams. We maken in deze richtlijnen heel duidelijk dat we nul tolerantie hebben voor naaktheid en poseren in ondergoed in Lives, bijvoorbeeld.

Als deze richtlijnen niet worden gevolgd, is het ons beleid om onze jongere gebruikers te betrekken en voor te lichten in plaats van hen te straffen. Dat betekent dat we gebruik maken van de mogelijkheid om hen te helpen begrijpen en te overdenken wat ze fout hebben gedaan. We willen hen aansporen hun gedrag op dat moment en in de toekomst te veranderen. We zien nu al het positieve effect van realtime in-app waarschuwingen en onze aanpak wordt toegejuicht door rechtshandhavingsinstanties, vrijwilligersorganisaties en andere voorvechters van online veiligheid.

Zoals onze online veiligheidsadviseur Annie Mullins OBE zegt,

“Ik heb samengewerkt met Yubo om live interventies te implementeren om te helpen voorkomen dat gebruikers zichzelf in gevaar brengen. Dit is een belangrijke stap voorwaarts op het gebied van online veiligheid voor kinderen en andere social media zouden dit voorbeeld moeten volgen. Hoe meer realtime interventies met jongeren plaatsvinden, hoe meer we hen kunnen steunen en voorlichten. Jongeren maken fouten - dat hoort bij het opgroeien - maar het is belangrijk dat aanbieders van social media een vangnet voor hen bieden en hen een duwtje in de juiste richting geven wanneer hun gedrag hen in gevaar zou kunnen brengen.”

Dr. Richard Graham, kinder- en jeugdpsychiater, voegt hieraan toe,

“De toekomst van de digitale wereld hangt nu af van hoe bereid we zijn om gedragswetenschappelijke inzichten te gebruiken om te voorkomen dat goede dingen door slechte worden verpest. Yubo neemt het voortouw met live interventie, en er is geen betere manier om te leren dan op het moment zelf.”

Ons wereldwijde team van moderators houdt zich bezig met uiteenlopende situaties in livestreams, waaronder jongeren die in hun ondergoed poseren, hun kleren uittrekken, andere gebruikers lastigvallen en dreigen zichzelf iets aan te doen.

We vroegen een van onze moderators, Tom*, om uit te leggen waarom het zo belangrijk is om in te grijpen in Lives.

“De content wordt live online uitgezonden, dus is het logisch dat we onmiddellijk ingrijpen voordat er schade wordt aangericht. Hoe sneller we erbij betrokken zijn, hoe beter," zegt hij.

Ondanks dat ze een popup krijgen over onze community-richtlijnen wanneer ze live streams op Yubo starten en weten dat Lives door iedereen gezien kunnen worden (niet alleen door hun vrienden), kiezen sommige gebruikers er toch voor om de grenzen te verleggen.

Waarom gedragen jongeren zich dan zo online? Er zijn een aantal motivaties - sommigen doen het om te pronken of te flirten, anderen omdat ze hun idolen en andere beroemdheden op een bepaalde manier zien doen of omdat iemand hen aanmoedigt of onder druk zet om het te doen.

“Het gaat er vaak om aandacht te krijgen, die ze in het echte leven misschien niet krijgen", aldus Tom. "Live gaan is een goede manier om veel mensen te bereiken en veel views te krijgen. De jongens die geen shirt aanhebben, willen bijvoorbeeld met hun spieren pronken.”

De potentiële risico's van livestreaming zijn onder meer gepest worden, gedwongen worden tot seksueel getinte activiteiten en benaderd worden door vreemden met kwade bedoelingen.

Tom legt uit hoe jongere gebruikers vaak zo opgaan in de app, dat ze niet meer nadenken over wat ze aan het doen zijn.

“Mensen zijn vaak gefixeerd op het 'moment' en beseffen niet wat de directe risico's zijn of dat de content na de Live misschien niet meer verdwijnt. Als ze zichzelf in hun ondergoed filmen, kan iemand dat opnemen, het ergens anders publiceren en het tegen hen gebruiken", zegt hij.

Als een Yubo moderator iets ziet gebeuren dat in strijd is met onze community-richtlijnen en iemand in gevaar kan brengen, sturen ze een waarschuwingsbericht naar de gebruiker. Het bericht kan bijvoorbeeld waarschuwen dat de Live binnen een minuut zal worden afgesloten of het kan de gebruiker waarschuwen dat ze zullen worden geblokkeerd van de app als ze hun gedrag niet veranderen.

Wij zijn de enige sociale video app die dit doet omdat we het belangrijk vinden dat onze jongere gebruikers begrijpen wat het probleem is en dat we ze aanmoedigen om hun gedrag te veranderen. De beste manier om te leren is immers op het moment zelf en door ervaringen uit het echte leven.

We nemen dan de gepaste maatregelen, waaronder het verwijderen van de content, het (tijdelijk) blokkeren van het account van de gebruiker en het melden van mogelijk illegale activiteiten aan de politie en andere autoriteiten, zoals de Internet Watch Foundation (IWF). Het is ons doel gebruikers te helpen hun gedrag te veranderen voordat het zover komt, maar uiteindelijk zullen we doen wat goed is voor hen en andere gebruikers.

“Helaas komen we vaak jongeren tegen die zichzelf verwonden of suïcidaal zijn," zegt Tom. "Zelfs als de mensen die naar de Live kijken proberen te helpen, zijn ze geen getrainde professionals en kunnen ze de situatie onbedoeld erger maken. Als je iemand ziet praten over zelfbeschadiging, kan dat ook bij andere gebruikers soortgelijke gevoelens oproepen.”

We staan geen zelfbeschadiging toe op Yubo en we leggen aan onze jongere gebruikers uit waarom dit het geval is. Live interventie betekent dat we iemand op dat cruciale moment kunnen helpen en doorverwijzen naar hulporganisaties.

“Ik durf te zeggen dat deze app zich ontwikkelt tot een leider op het gebied van veilige live streams.”Anne Collier, NetFamilyNews (Augustus 2017)

Over het algemeen reageren Yubo-gebruikers positief op realtime interventie. Ze zijn niet gewend aan andere apps die op deze manier communiceren, maar over het algemeen ontvangen ze de meldingen goed en voldoen ze aan onze verzoeken. Als iemand bijvoorbeeld een waarschuwing krijgt terwijl hij zich voor de camera aan het uitkleden is, stopt hij of zij meestal zodra de melding verschijnt en worden de kleren weer aangetrokken.

Tom merkt op dat gebruikers hem vaak dankbaar zijn dat hij ingrijpt, omdat ze dan niet zelf met een moeilijke situatie te maken krijgen. Als ze het gevoel hebben dat ze onder druk staan om zich online op een bepaalde manier te gedragen, is het goed dat ze weten dat wij er zijn om een oogje in het zeil te houden en hen te helpen met die verwachtingen om te gaan.

Veel van onze jongere gebruikers vertellen hun vrienden over onze regels en hoe de Yubo-moderators er zijn om te helpen - een duidelijk teken dat hoewel jongeren graag onafhankelijk zijn, ze toch steun nodig hebben. Het voorlichten van één tiener kan namelijk een krachtig netwerkeffect hebben. We hebben veel positieve reacties ontvangen over live interventie van onze jongere gebruikers, waaronder “Ik denk dat het nuttig is, het houdt de community veiliger en netter denk ik.” en “Het is een goed idee, het geeft mensen de kans om hun gedrag te veranderen en zo niet, dan worden ze geconfronteerd met de gevolgen.”

Uit onderzoek door Childnet blijkt dat meer dan één op de tien 8- tot 17-jarigen 'live' is gegaan, live streaming is niet meer weg te denken. Wij geloven dat realtime ingrijpen een essentieel instrument is om jongeren een veiligere ervaring te bieden op sociale videoapps.

In Anne Collier’s woorden, is het belangrijk om een digitale community op te bouwen om “begeleid te oefenen” — een plek waar jongeren zelfverzekerd, gelukkig, respectvol en veilig kunnen zijn. Met onze visie om een leider in online veiligheid te zijn, zullen we innovatieve veiligheidsfuncties voor Yubo blijven ontwikkelen zodat we precies dat kunnen doen.

“Ik prijs Yubo voor de grondige herziening van zijn veiligheidsfuncties om zijn platform veiliger te maken voor tieners.” Julie Inman Grant, Australian eSafety Commissioner (Maart 2018)

Yubo heeft een minimum leeftijdsgrens van 13 jaar en gebruikers moeten hun echte gegevens opgeven, inclusief hun mobiele nummer. We gebruiken technologie en moderatoren om te jonge gebruikers te identificeren en te blokkeren.

Yubo-gebruikers kunnen hun eigen voorkeuren instellen, waaronder het al dan niet tonen van hun locatie en bepalen met wie ze praten.

Elke gebruiker moet zich houden aan onze community-richtlijnen, die regels bevatten over pesten, naaktheid, nepprofielen en ander ongepast of illegaal gedrag.

We gebruiken innovatieve technologie en menselijke moderatoren om te controleren wat er op Yubo gebeurt en actie te ondernemen als we zien dat onze regels worden overtreden.

Het is gemakkelijk om problemen of zorgen aan ons te melden, via het vlaggetje in de app of bij ons Veiligheidscentrum. Wij streven ernaar om binnen 24 uur te reageren op meldingen en geven prioriteit aan noodgevallen.

Met een combinatie van algoritmes en menselijke moderatoren monitoren we de activiteit op Yubo, zodat we gebruikers kunnen identificeren die onze community-richtlijnen overtreden en die zichzelf of anderen in gevaar zouden kunnen brengen tijdens het livestreamen.

Yubo aan je hoofd.

Wat ons nu bezig houdt.

Bericht verwijderen' of 'Toch sturen'?

Realtime interventie bij sociale video's