Yubo déploie sa technologie de modération audio en temps réel sur quatre marchés internationaux majeurs.

En première mondiale dans l'industrie, l'application de découverte sociale pour la Génération Z étend la modération audio pour les diffusions en direct au Royaume-Uni, en Australie et au Canada, après son lancement aux États-Unis cet été

Yubo, l'application de découverte sociale en direct pour la génération Z, a étendu sa technologie de modération audio pour les diffusions en direct sur quatre de ses plus grands marchés : les États-Unis, le Royaume-Uni, l'Australie et le Canada. En partenariat avec Hive, Yubo a introduit cette technologie aux États-Unis fin mai, devenant ainsi la première grande plateforme de médias sociaux au monde à relever les défis de l'analyse audio en temps réel.

Alors que d'énormes progrès ont été réalisés dans le domaine de la modération d'images et de vidéos en temps réel, la modération audio reste un défi non résolu. Selon un rapport de la Ligue anti-diffamation, environ la moitié des personnes qui ont signalé avoir été harcelées dans les jeux en ligne - où les diffusions en direct ont historiquement été les plus répandues - ont été ciblées par la voix.

Depuis lors, Yubo a étendu la phase d'essai pour inclure toutes les régions anglophones majoritaires où il dispose d'une large base d'utilisateurs, atteignant ainsi un point d'inflexion critique pour recueillir des informations substantielles sur cet outil de sécurité révolutionnaire. Bien que la technologie en soit encore à ses débuts, elle s'est avérée particulièrement efficace pour détecter les risques potentiels du monde réel, tels que la violence envers autrui ou l'automutilation.

La technologie de modération audio de Hive sur Yubo fonctionne actuellement en enregistrant et en transcrivant automatiquement des extraits audio de 10 secondes dans les diffusions en direct de 10 personnes ou plus. Le texte est ensuite scanné instantanément à l'aide de l'intelligence artificielle. Seules les transcriptions contenant des mots ou des phrases qui violent les directives communautaires de l'application sont signalées à l'examen des spécialistes de la sécurité de Yubo, qui commencent à enquêter en temps réel sur les incidents pour déterminer les mesures à prendre, y compris s'il est nécessaire de recourir aux forces de l'ordre. Les transcriptions ne présentant aucune violation suspectée ne sont pas examinées ni conservées.

Les algorithmes qui alimentent cette technologie de modération audio utilisent l'apprentissage automatique et continueront donc à s'améliorer et à devenir plus précis avec le temps. Pour protéger la vie privée des utilisateurs, les transcriptions des diffusions en direct qui n'ont pas été signalées pour enquête sont supprimées après 24 heures. Les transcriptions qui sont signalées et nécessitent une enquête interne ou par les forces de l'ordre sont conservées pendant jusqu'à un an.

"Notre expansion de la technologie de modération audio est non seulement un élément clé de la feuille de route en constante évolution de Yubo en matière de sécurité, mais aussi un développement essentiel pour élargir les paramètres de la sécurité en ligne dans toute l'industrie", a déclaré Marc-Antoine Durand, directeur général adjoint de Yubo. "Il reste encore beaucoup de progrès à faire dans le domaine de la détection vocale, mais nous sommes fiers de tracer la voie pour nos pairs en lançant en premier la modération audio avec Hive et en aidant à rendre cet outil plus fiable et plus efficace grâce à cet essai."

Cet été, Yubo a déployé pour la première fois la technologie de modération audio auprès d'un petit échantillon d'utilisateurs aux États-Unis. Avec une plus grande échelle dans quatre marchés principaux, les mots clés de la modération audio déclenchent désormais une moyenne de 600 diffusions en direct par jour pour examen par les spécialistes de la sécurité. Cependant, une part significative de celles-ci constitue des "faux positifs". Les faux positifs font référence aux cas où, par exemple, une chanson jouant en arrière-plan ou un langage ludique contenant des mots déclencheurs est signalé à l'examen, mais il ne s'agit pas réellement de discours préjudiciable. Les faux positifs mettent en évidence non seulement la complexité de la modération efficace du contenu en ligne, mais aussi l'importance de combiner des outils techniques avec une surveillance humaine pour la nuance et le contexte. C'est pourquoi chez Yubo, les modérateurs humains ont toujours le dernier mot sur les actions de modération à prendre et supervisent en permanence les algorithmes de détection.