I video inappropriati circolano anche su YouTube Kids

Negli ultimi mesi, molti genitori si sono lamentati della presenza di alcuni video shock che circolavano sulla piattaforma YouTube Kids e che vedevano personaggi noti dei cartoni animati in situazioni violente e inquietanti. Malik Ducard, global head of family and learning content di YouTube, ha spiegato che i video inappropriati possono essere considerati “l’ago estremo nel pagliaio”, ma che “per YouTube è della massima importanza rendere l’app sicura e a misura di famiglia”. Le debolezze degli algoritmi Ma, sebbene i video offensivi rappresentano una piccola frazione dell’universo di YouTube Kids, sono un altro esempio del potenziale di abuso sulle piattaforme media digitali che si basano su algoritmi informatici, piuttosto che sull’intervento umano, per controllare il contenuto che appare davanti alle persone. “Quando i video sono caricati su YouTube, gli algoritmi determinano se sono adatti o meno per YouTube Kids”. I video sono continuamente monitorati dopo di che, ha continuato Ducard, un processo multistrato utilizza il machine learning per selezionarli. Genitori chiamati all’azione Tuttavia, per i genitori questo non è ancora abbastanza. Lo stesso Ducard ha incoraggiato i genitori a intervenire qualora i sistemi di monitoraggio di YouTube dovessero fallire indicando la possibilità di bloccare i canali, impostare i timer di utilizzo, disabilitare i risultati della ricerca e segnalare video inappropriati, affinché la piattaforma possa intervenire tempestivamente. Come riportato ancora da Ducard negli ultimi 30 giorni, meno dello 0,05% dei milioni di video visti nell’applicazione sono stati rimossi come inappropriati. “Ci sforziamo”, ha aggiunto, ”di rendere questa percentuale ancora più bassa”. Alcuni genitori hanno scelto di cancellare l’app. Altri ne consentono ancora l’uso solo su base più limitata e controllata. Inappropriati e redditizi La maggior parte dei video segnalati dai genitori sono stati caricati su YouTube negli ultimi mesi da utenti anonimi con nomi come Kids Channel TV e Super Moon TV. I titoli e le descrizioni dei video sono caratterizzati da nomi e termini popolari come “educazione” e “imparare i colori”, animati in modo indipendente, presumibilmente per evitare il rilevamento delle violazioni di copyright. Alcune clip caricate di recente hanno milioni di visualizzazioni sul sito principale di YouTube ed eseguono automaticamente annunci pubblicitari, suggerendo che sono finanziariamente redditizi per i creatori così come per YouTube, che condivide le entrate pubblicitarie. I pericoli della realtà mediatica Il dottor Michael Rich, professore di pediatria presso la Harvard Medical School e direttore del Centro sui media e la salute dei bambini, ha detto che tali video possono sollevare una serie di problemi per i bambini. Il fatto che i personaggi che pensavano di conoscere e di fidarsi si comportino in questo modo può essere molto sconvolgente e sono un esempio lampante dei pericoli della realtà mediatica di oggi. Gli algoritmi non sostituiscono l’intervento umano, e quando si tratta di creare un ambiente sicuro per i bambini, è necessario che gli esseri umani integrino più massicciamente. Google si difende L’utilizzo dell’automazione per la pubblicità online ha trasformato Google in un colosso del valore di oltre mezzo trilione di dollari. L’azienda ha affrontato una nuova ondata di critiche nell’ultimo anno per la mancanza di supervisione umana dopo i suoi sistemi che hanno inavvertitamente finanziato siti di notizie false e video d’istigazione all’odio e, molto probabilmente, annunci elettorali non autorizzati. Google ha ampiamente difeso i suoi errori spiegando come l’enorme quantità di contenuti che ospita, tra cui più di 400 ore di contenuti caricati su YouTube ogni minuto sia impossibile da controllare capillarmente e rinnovando il suo impegno nel migliorarli e lanciando nuove feature, come la più recente che fa cambiare interfaccia alla piattaforma Kids in base all’età del bambino. Ma, i genitori, e i brand, chiedono maggiori garanzie.