Yubo erweitert seine Echtzeit-Audio-Moderationstechnologie auf vier große internationale Märkte.

Als Branchen-Neuheit erweitert die Gen-Z-Social-Discovery-App die Audio-Moderation für Livestreams auf die UK, Australien und Kanada, nachdem sie diesen Sommer in den USA gestartet wurde.

Yubo, die Live-Social-Discovery-App für die Generation Z, hat ihre Audio-Moderationstechnologie für Livestreams auf vier ihrer größten Märkte erweitert: die Vereinigten Staaten, das Vereinigte Königreich, Australien und Kanada. In Partnerschaft mit Hive führte Yubo diese Technologie Ende Mai in den USA ein und wurde damit die erste bedeutende Social-Media-Plattform weltweit, die sich den Herausforderungen der Echtzeit-Audio-Analyse stellt.

Während bedeutende Fortschritte bei der Entwicklung von Echtzeit-Bild- und Video-Moderationstechnologien gemacht wurden, bleibt die Audio-Moderation eine ungelöste Herausforderung. Laut einem Bericht der Anti-Defamation League wurden etwa die Hälfte der Personen, die Belästigung in Online-Spielen gemeldet haben - wo Livestreaming historisch gesehen am weitesten verbreitet ist - über die Stimme angegriffen.

Yubo hat die Testphase mittlerweile auf alle englischsprachigen Regionen erweitert, in denen es eine große Nutzerbasis hat, und erreicht damit einen entscheidenden Wendepunkt, um aussagekräftige Erkenntnisse zu diesem bahnbrechenden Sicherheitswerkzeug zu sammeln. Obwohl die Technologie noch in den Anfängen steckt, hat sie sich als besonders effektiv bei der Erkennung potenzieller Risiken in der realen Welt, wie Gewalt gegen andere oder Selbstverletzung, erwiesen.

Die Audio-Moderationstechnologie von Hive auf Yubo funktioniert derzeit so, dass sie 10-sekündige Audio-Schnipsel in Livestreams mit 10 oder mehr Personen aufzeichnet und automatisch transkribiert. Der Text wird dann sofort mit Hilfe von künstlicher Intelligenz gescannt. Nur Transkripte, die Wörter oder Phrasen enthalten, die gegen die Community-Richtlinien der App verstoßen, werden von den Sicherheitsspezialisten von Yubo zur Überprüfung markiert. Diese beginnen dann in Echtzeit mit der Untersuchung der Vorfälle, um zu bestimmen, welche Maßnahmen ergriffen werden sollten, einschließlich einer Eskalation bei den Strafverfolgungsbehörden. Transkripte ohne Verdachtsmomente werden weder überprüft noch aufbewahrt.

Die Algorithmen, die diese Audio-Moderationstechnologie antreiben, nutzen maschinelles Lernen und werden daher mit der Zeit immer präziser und besser. Um die Privatsphäre der Benutzer zu schützen, werden Livestream-Transkripte, die nicht zur Untersuchung markiert wurden, nach 24 Stunden gelöscht. Transkripte, die markiert und intern oder von Strafverfolgungsbehörden untersucht werden müssen, werden für bis zu einem Jahr gespeichert.

"Unsere Erweiterung der Audio-Moderationstechnologie ist nicht nur ein entscheidender Bestandteil von Yubos sich ständig weiterentwickeltem Sicherheitsprodukt-Roadmap, sondern auch eine bedeutende Entwicklung, um die Parameter der Online-Sicherheit in der gesamten Branche zu erweitern", sagte Yubos Chief Operating Officer Marc-Antoine Durand. "Bei der Erkennung von Sprache gibt es noch viel zu tun, aber wir sind stolz darauf, unseren Weg zu ebnen, indem wir als erste Audio-Moderation mit Hive einführen und dieses Tool durch diesen Testlauf zuverlässiger und effektiver machen."

Yubo führte die Audio-Moderationstechnologie zuerst im Sommer für einen kleinen Querschnitt von Nutzern in den USA ein. Mit einer größeren Anwendung in vier Hauptmärkten lösen Audio-Moderations-Stichwörter nun durchschnittlich 600 Livestreams pro Tag für die Überprüfung durch Sicherheitsspezialisten aus. Dennoch machen eine beträchtliche Anzahl davon sogenannte "falsch positive" Fälle aus. Falsch positive beziehen sich auf Fälle, in denen zum Beispiel ein im Hintergrund abgespieltes Lied oder verspielte Sprache, die auslösende Schlüsselwörter enthält, zur Überprüfung markiert wird, aber tatsächlich keine schädliche Sprache darstellt. Falsch positive Fälle zeigen nicht nur die Komplexität einer effektiven Moderation von Online-Inhalten, sondern auch die Bedeutung der Kombination von technischen Werkzeugen mit menschlicher Aufsicht für Nuancen und Kontext. Deshalb haben die menschlichen Moderatoren bei Yubo immer das letzte Wort darüber, welche Moderationsmaßnahmen ergriffen werden sollen, und überwachen kontinuierlich die Erkennungsalgorithmen.