Yubo implementa la tecnologia di moderazione audio in tempo reale su quattro importanti mercati internazionali.

In un'azione senza precedenti nel settore, l'app di scoperta sociale per la Generazione Z espande la moderazione audio per le dirette in streaming nel Regno Unito, in Australia e in Canada, dopo averla lanciata negli Stati Uniti questa estate.

Yubo, l'app di scoperta sociale in diretta per la Generazione Z, ha ampliato la sua tecnologia di moderazione audio per le dirette in streaming su quattro dei suoi mercati più grandi: gli Stati Uniti, il Regno Unito, l'Australia e il Canada. In collaborazione con Hive, Yubo ha introdotto questa tecnologia negli Stati Uniti alla fine di maggio, diventando così la prima importante piattaforma di social media al mondo a affrontare le sfide dell'analisi audio in tempo reale.

Sebbene siano stati fatti progressi significativi nell'avanzamento della tecnologia di moderazione di immagini e video in tempo reale, la moderazione audio è rimasta una sfida irrisolta. Circa la metà delle persone che hanno segnalato di essere state vittime di molestie nei giochi online - dove lo streaming in diretta è stato storicamente più diffuso - sono state prese di mira tramite la voce, secondo un rapporto dell'Anti-Defamation League.

Da allora, Yubo ha esteso la fase di prova per includere tutte le regioni anglofone in cui ha una grande base di utenti, raggiungendo un punto critico per raccogliere informazioni sostanziali su questo innovativo strumento di sicurezza. Nonostante sia ancora agli inizi, la tecnologia si è dimostrata particolarmente efficace nel rilevare potenziali rischi reali, come violenza verso gli altri o autolesionismo.

La tecnologia di moderazione audio di Hive su Yubo funziona attualmente registrando e trascrivendo automaticamente frammenti audio di 10 secondi nelle dirette in streaming con 10 o più persone. Il testo viene quindi immediatamente analizzato tramite intelligenza artificiale. Solo le trascrizioni contenenti parole o frasi che violano le linee guida della Community dell'app vengono segnalate per essere esaminate dagli specialisti della sicurezza di Yubo, che iniziano a investigare sugli incidenti in tempo reale per determinare quali azioni intraprendere, inclusa l'eventualità di coinvolgere le forze dell'ordine. Le trascrizioni senza violazioni sospette non vengono esaminate né conservate.

Gli algoritmi che alimentano questa tecnologia di moderazione audio utilizzano l'apprendimento automatico e continueranno quindi a migliorare e diventare più precisi col tempo. Per proteggere la privacy degli utenti, le trascrizioni delle dirette in streaming che non sono state segnalate per l'indagine vengono cancellate dopo 24 ore. Le trascrizioni segnalate e che richiedono un'indagine interna o delle forze dell'ordine vengono conservate per un anno.

"La nostra espansione della tecnologia di moderazione audio non è solo un elemento chiave della nostra costante evoluzione della sicurezza di Yubo, ma anche uno sviluppo cruciale per ampliare i parametri della sicurezza online in tutta l'industria", ha dichiarato Marc-Antoine Durand, Chief Operating Officer di Yubo. "C'è ancora molto da fare nell'ambito del rilevamento vocale, ma siamo orgogliosi di tracciare la strada per i nostri pari, essendo i primi a lanciare la moderazione audio con Hive e aiutando a rendere questo strumento più affidabile ed efficace attraverso questa sperimentazione".

Yubo ha implementato per la prima volta la tecnologia di moderazione audio quest'estate su un piccolo campione di utenti negli Stati Uniti. Con una maggiore scala su quattro mercati principali, le parole chiave per la moderazione audio attivano ora una media di 600 dirette in streaming al giorno per essere esaminate dagli specialisti della sicurezza. Tuttavia, una parte significativa di queste costituisce "falsi positivi". I falsi positivi si riferiscono ai casi in cui, ad esempio, una canzone in sottofondo o un linguaggio giocoso contenente parole chiave scatenanti viene segnalato per essere esaminato, ma in realtà non si tratta di discorsi dannosi. I falsi positivi mettono in evidenza non solo la complessità della moderazione efficace dei contenuti online, ma anche l'importanza di combinare strumenti tecnici con la supervisione umana per la nuance e il contesto. Ecco perché da Yubo i moderatori umani hanno sempre l'ultima parola su quale azione di moderazione intraprendere e supervisionano continuamente gli algoritmi di rilevamento.