Intervenção em tempo real em vídeo social

Intervenção em tempo real em vídeo social: Yubo toma a iniciativa para reduzir os riscos para os jovens

Aqui no Yubo, estamos sempre procurando maneiras de inovar em segurança online. Em nossa postagem anterior, explicamos como levamos muito a sério a nossa responsabilidade para com os usuários mais jovens do Yubo. Desde então, continuamos trabalhando com a especialista em segurança online Annie Mullins OBE para aplicar uma série de proteções no aplicativo e recentemente demos um passo importante ao introduzir a intervenção em tempo real nas Lives.

Usando uma combinação de algoritmos e moderadores humanos, monitoramos a atividade no Yubo para que possamos identificar os usuários que violam as nossas Diretrizes da Comunidade e que podem colocar a si mesmos ou outras pessoas em perigo durante transmissões ao vivo. Depois, agimos de forma imediata enviando uma mensagem ao usuário explicando como ele passou dos limites, como mudar seu comportamento e que medidas tomaremos se ele não obedecer. Nossas opções incluem desativar temporariamente a Live e suspender sua conta.

O Yubo é o único aplicativo de vídeo social a intervir dessa forma para ajudar a manter os adolescentes mais seguros. Sim, é um atitude ousada. Sim, alguns jovens ficam surpresos quando recebem uma mensagem de advertência nossa. Mas acreditamos que o mais importante é apoiar e proteger nossos usuários e tornar a comunidade do Yubo um lugar ainda melhor para se estar.

Nesta postagem, damos uma olhada mais de perto na intervenção ao vivo e exploramos como ela promove a mudança de comportamento, encorajando os usuários do Yubo a ficarem mais seguros e responsáveis, além de ajudar a reduzir o risco de exploração sexual e outros problemas. Também conversamos com um de nossos moderadores mais experientes e descobrimos como nossos usuários adolescentes reagem às suas mensagens sobre comportamentos ou conteúdos impróprios que postaram.

“Sabemos que as redes sociais podem fazer mais e alguns sites como o Yubo já têm boas práticas de transmissão ao vivo.” Andy Burrows, Chefe Associado de Segurança Infantil Online, NSPCC (2018)

Educar e engajar

Assim como os adolescentes podem experimentar e testar limites na vida real, o mesmo acontece no mundo digital. Na Internet, os jovens podem já ter visto comportamentos ou conteúdos inadequados e nem sempre têm certeza do que é aceitável. Quer seja se filmando em roupas íntimas ou fazendo comentários maldosos sobre alguém, é importante que eles entendam e reflitam sobre as consequências que seu comportamento pode ter para eles e para os outros. Além disso, como empresa, devemos conseguir tomar medidas quando observarmos comportamentos e conteúdos impróprios ou ilegais em transmissões ao vivo no Yubo (que chamamos de Lives).

Nossas Diretrizes da Comunidade são essenciais para definir padrões de comportamento dos usuários - nossos usuários devem concordar em obedecê-las e sempre nos referimos a elas ao intervir em Lives. Deixamos bem claro nessas diretrizes que temos tolerância zero à nudez e posar de roupa íntima nas Lives, por exemplo.

Se essas diretrizes não forem seguidas, nossa política busca envolver e educar nossos usuários mais jovens, em vez de puni-los. Isso significa usar oportunidades quando as regras são quebradas para ajudá-los a entender e pensar sobre o que fizeram de errado e incentivá-los a mudar de comportamento naquele momento e no futuro. Já estamos vendo o impacto positivo das advertências em tempo real no aplicativo e nossa abordagem tem sido bem-vinda pelas autoridades, instituições de caridade e outros defensores da segurança online.

Como diz nossa Consultora de Segurança Online Annie Mullins OBE:

“Trabalhei com o Yubo implementando intervenções em tempo real para ajudar a evitar que seus usuários se coloquem em risco. Esta é uma mudança importante na área de segurança infantil online e que outras empresas de rede social deveriam seguir. Quanto mais intervenções em tempo real forem realizadas com os jovens, mais poderemos apoiá-los e educá-los. Os jovens cometem erros - isso faz parte do crescimento - mas é importante que os provedores de redes sociais ofereçam redes de segurança para eles e os orientem na direção certa quando seu comportamento puder colocá-los em risco.”

O Psiquiatra Consultor de Crianças e Adolescentes, Dr. Richard Graham, acrescenta:

“O futuro do mundo digital depende de como estamos dispostos a usar percepções comportamentais para impedir que o ruim arruíne o que há de bom. O Yubo está tomando a iniciativa com a intervenção em tempo real, e não há melhor maneira de aprender do que no presente.”

Observações de um moderador

Nossa equipe global de moderadores lida com uma série de situações em transmissões ao vivo, incluindo jovens posando de roupa íntima, tirando a roupa, assediando outros usuários e ameaçando se machucar.

Pedimos a um de nossos moderadores, Tom*, que explicasse por que é tão importante intervir nas Lives.

“O conteúdo está sendo transmitido ao vivo pela Internet, então faz sentido intervirmos imediatamente antes que qualquer dano seja causado. Quanto mais rápido nos envolvermos, melhor”, diz ele.

Apesar de receberem um aviso sobre as nossas Diretrizes da Comunidade quando eles entram nas Lives no Yubo, e por mais que saibam que as Lives podem ser vistas por qualquer pessoa (não apenas seus amigos), alguns usuários ainda optam por passar dos limites.

Então, por que os jovens se comportam dessa forma na Internet? Existem várias motivações - alguns fazem isso para se exibir ou flertar, outros porque veem seus ídolos e outras celebridades agindo de uma determinada maneira ou porque alguém os incentiva ou os pressiona a fazer isso.

“Na maioria das vezes, trata-se de chamar a atenção, o que eles podem não receber na vida real”, comenta Tom. “Fazer Lives é uma boa maneira de alcançar muitas pessoas e conseguir muitas visualizações. Os caras que andam sem camiseta querem mostrar os músculos, por exemplo.”

Os potenciais de risco das transmissões ao vivo para os jovens incluem sofrer bullying, ser coagidos a atividades sexualmente explícitas e ser contatados por estranhos com intenções maliciosas.

Tom explica como os usuários mais jovens costumam ficar tão imersos no aplicativo que não pensam no que estão fazendo.

“Muitas vezes as pessoas ficam presas 'ao momento' e não entendem os riscos imediatos ou que o conteúdo pode não sumir depois da Live. Se eles se filmarem de roupa íntima, alguém pode gravar, publicar em outro lugar e usar contra eles”, ele ressalta.

Se um moderador do Yubo vê algo acontecendo que viola nossas Diretrizes da Comunidade e pode colocar alguém em risco, ele envia uma mensagem de advertência ao usuário. A mensagem pode dizer que a Live será encerrada em um minuto ou pode avisar ao usuário que ele será suspenso do aplicativo se não mudar de atitude.

Somos o único aplicativo de vídeo social a fazer isso, pois consideramos importante que nossos usuários mais jovens entendam qual é o problema e que os incentivemos a mudar o que estão fazendo. Afinal, a melhor maneira de aprender é no presente e por meio da experiência da vida real.

Em seguida, tomamos as medidas apropriadas, que podem incluir remover o conteúdo, suspender ou encerrar a conta do usuário e denunciar atividades potencialmente ilegais à polícia e outras autoridades, como a Internet Watch Foundation (IWF). Nosso objetivo é ajudar os usuários a mudar seu comportamento antes de chegar a esse ponto, mas, se for preciso, faremos o que for o correto para eles e outros usuários.

“Infelizmente, uma das coisas que encontramos são jovens com comportamentos de automutilação ou suicídio”, diz Tom. “Mesmo que as pessoas assistindo às Lives tentem ajudar, elas não são profissionais treinados e podem, sem querer, piorar a situação. Ver alguém falando sobre automutilação também pode desencadear sentimentos semelhantes em outros usuários.”

Não permitimos que conteúdos de automutilação permaneçam no Yubo e explicamos aos nossos usuários mais jovens por que isso acontece. A intervenção em tempo real significa que podemos ajudar alguém naquele momento crucial e encaminhá-los às organizações de apoio.

“Eu me atrevo a dizer que... esse aplicativo está se preparando para ser um líder em segurança de vídeos transmitidos ao vivo.” Anne Collier, NetFamilyNews (agosto de 2017)

Apoie e proteja

Como um todo, os usuários do Yubo reagem positivamente à intervenção em tempo real. Eles não estão acostumados com a comunicação de outros aplicativos dessa forma, mas geralmente recebem bem as notificações e atendem às nossas solicitações. Se alguém recebe uma advertência ao se despir diante da câmera, por exemplo, essa pessoa costuma parar assim que vê a mensagem e coloca a roupa de volta.

Tom observa que os usuários costumam agradecê-lo por intervir, pois isso significa que não precisam lidar sozinhos com uma situação difícil. Se eles estiverem se sentindo pressionados a se comportar de determinada maneira na Internet, é bom que saibam que estamos lá para ficar de olho nas coisas e ajudá-los a controlar essas expectativas.

Muitos dos nossos usuários mais jovens contam a seus amigos sobre nossas regras e como os moderadores do Yubo estão lá para ajudar - um sinal claro de que, embora gostem de ser independentes, os jovens ainda precisam de apoio. Na verdade, educar um adolescente pode ter um poderoso efeito cascata. Recebemos muitos comentários positivos sobre a intervenção em tempo real de nossos usuários mais jovens, incluindo “Acho que é útil, serve para manter a comunidade mais segura e mais limpa, eu acho” e “É uma ideia muito boa, dá às pessoas a chance de mudar de comportamento, e se não mudarem, enfrentam as consequências.”

Com uma pesquisa da Childnet revelando que mais de um em 10 jovens de 8 a 17 anos já "ficou ao vivo", as Lives vieram para ficar. Acreditamos que a intervenção em tempo real é uma ferramenta vital para ajudar os jovens a ter uma experiência mais segura em aplicativos de vídeo social.

Nas palavras de Anne Collier, é importante construir uma comunidade digital de “prática guiada” - uma onde os jovens possam se sentir confiantes, felizes, respeitados e seguros. Com nossa visão de sermos líderes em segurança online, continuaremos desenvolvendo recursos de segurança inovadores para o Yubo para que possamos fazer exatamente isso.

“Eu parabenizo o Yubo por repensar de maneira ampla sobre seus recursos de segurança para tornar sua plataforma mais segura para os adolescentes.” Julie Inman Grant, Comissária de Segurança Eletrônica Australiana (março de 2018)

Cinco maneiras pelas quais o Yubo ajuda os jovens

• O Yubo tem uma idade permitida mínima de 13 anos e os usuários devem fornecer seus dados reais, incluindo o número do celular. Usamos a tecnologia e moderadores para identificar perfis de menores e bloqueá-los.
• Os usuários do Yubo podem definir suas próprias preferências, incluindo se devem mostrar sua localização e decidir com quem falar.
• Todo usuário deve concordar em cumprir as Diretrizes da Comunidade, que incluem regras sobre bullying, nudez, perfis falsos e outros comportamentos inadequados ou ilegais.
• Usamos uma tecnologia inovadora e moderadores humanos para verificar o que está acontecendo no Yubo e tomar medidas se virmos nossas regras sendo quebradas.
• É fácil denunciar quaisquer problemas ou preocupações para nós por meio do ícone de bandeira no aplicativo ou em nossa Central de Segurança. Nosso objetivo é responder às denúncias em 24 horas e priorizar as emergências.