Yubo laajentaa reaaliaikaisen äänimoderointiteknologiansa neljään suurimpaan kansainväliseen markkinaan

Teollisuuden ensimmäisenä Gen Z -sosiaalisen löytösovellus laajentaa äänimoderoinnin livelähetyksiin Yhdistyneessä kuningaskunnassa, Australiassa ja Kanadassa, sen jälkeen kun se lanseerattiin Yhdysvalloissa tämän kesän aikana.

Yubo, Gen Z:lle suunnattu live-sosiaalisen löytämisen sovellus, on laajentanut äänimoderointiteknologiaansa neljälle suurimmalle markkinalleen: Yhdysvallat, Iso-Britannia, Australia ja Kanada. Yhteistyössä Hiven kanssa Yubo esitteli tämän teknologian Yhdysvalloissa toukokuun lopussa, tullen maailman ensimmäiseksi suureksi sosiaalisen median alustaksi, joka ottaa haasteeksi reaaliaikaisen äänen analysoinnin.

Vaikka merkittäviä edistysaskeleita onkin saavutettu reaaliaikaisen kuvien ja videoiden moderoinnin teknologiassa, äänimoderointi on edelleen ratkaisematon haaste. Noin puolet ihmisistä, jotka ovat raportoineet kokeneensa häirintää verkkopelien yhteydessä - missä livestreamit ovat historiallisesti olleet yleisimpiä - ovat kohdanneet äänihäirintää, kertoo Anti-Defamation Leaguen raportti.

Yubo on sittemmin laajentanut kokeiluvaihettaan sisältämään kaikki enemmistö-englanninkieliset alueet, joissa sillä on suuri käyttäjäkunta, ja tavoittanut näin kriittisen käännekohdan kerätäkseen merkittäviä näkemyksiä tästä läpimurron tehneestä turvallisuustyökalusta. Vaikka teknologia on edelleen lapsenkengissään, se on osoittautunut erityisen tehokkaaksi havaitsemaan potentiaalisia todellisen maailman riskejä, kuten väkivaltaa muita kohtaan tai itsetuhoisuutta.

Hiven äänimoderointiteknologia Yubossa toimii tällä hetkellä tallentamalla ja automaattisesti transkriboimalla 10 sekunnin ääninäytteitä livestriimeissä, joissa on vähintään 10 henkilöä. Teksti skannataan välittömästi tekoälyn avulla. Vain sellaiset transkriptit, jotka sisältävät sanoja tai lauseita, jotka rikkovat sovelluksen yhteisön sääntöjä, merkitään Yubon turvallisuusasiantuntijoiden tarkistettavaksi. He aloittavat välittömän tutkinnan tapahtumista ja päättävät, mitä toimenpiteitä on toteutettava, mukaan lukien tarvittaessa ilmoittaminen lainvalvontaviranomaisille. Epäiltyjä rikkomuksia sisältämättömät transkriptit eivät mene tarkasteluun eikä niitä säilytetä.

Tämän äänimoderointiteknologian voimana olevat algoritmit hyödyntävät koneoppimista ja kehittyvät siten jatkuvasti tarkemmiksi ajan myötä. Käyttäjän yksityisyyden suojelemiseksi livestriimien transkriptit, jotka eivät ole merkitty tutkittavaksi, poistetaan 24 tunnin kuluttua. Merkityt ja sisäisesti tai lainvalvontaviranomaisten toimesta tutkittavat transkriptit säilytetään enintään vuoden ajan.

"Äänimoderointiteknologiamme laajennus ei ole vain avainasemassa Yubon jatkuvasti kehittyvällä turvallisuustuotekartalla, vaan myös kriittinen kehitys laajentaa online-turvallisuuden parametreja koko teollisuudessa", sanoi Yubon toimitusjohtaja Marc-Antoine Durand. "Äänentunnistuksen alueella on vielä paljon edistyttävää, mutta olemme ylpeitä siitä, että olemme ensimmäisinä lanseeranneet äänimoderoinnin Hiven kanssa ja auttaneet tekemään tästä työkalusta luotettavamman ja tehokkaamman tämän kokeilun kautta."

Yubo otti käyttöön äänimoderointiteknologiansa ensin tämän kesän aikana pienelle käyttäjäryhmälle Yhdysvalloissa. Neljällä suurimmalla markkinalla äänimoderoinnin avainsanojen avulla laukaistaan nyt keskimäärin 600 livelähetystä päivittäin turvallisuusasiantuntijoiden tarkistettavaksi. Silti merkittävä osa näistä ovat "vääriä positiiveja". Väärien positiivien tapauksissa esimerkiksi taustalla soiva kappale tai leikkisä kieli, jossa on laukaisevia avainsanoja, merkitään tarkastettavaksi, mutta ne eivät ole todellisia vahingollisen puheen tapauksia. Väärien positiivien tapaukset korostavat tehokkaan online-sisällön moderoinnin monimutkaisuutta, mutta myös teknisten työkalujen yhdistämisen tärkeyttä inhimillisen valvonnan kanssa hienovaraisuuden ja yhteyden ymmärtämiseksi. Siksi Yubossa inhimilliset moderaattorit ovat aina viimeinen sana moderointitoimien suhteen ja valvovat jatkuvasti havaitsemisalgoritmeja.