Google e Jigsaw lanciano Perspective, tecnologia di machine learning per identificare i commenti offensivi sotto le notizie online

Una tecnologia che usa il machine learning per identificare i commenti offensivi sotto le notizie online. Google e Jigsaw lanciano Perspective, uno strumento ancora in fase sperimentale che usa, appunto, il machine learning per identificare gli insulti e migliorare le conversazioni online.  Attraverso un’API (un’interfaccia di programmazione) gli editori – inclusi i membri della Digital News Initiative -  e le piattaforme possono avere accesso a questa tecnologia e utilizzarla per i propri siti. Come funziona Perspective rivede i commenti e assegna loro un punteggio basato su quanto siano simili a commenti che gli utenti hanno indicato come “tossici” o tali da spingere le persone ad abbandonare la conversazione. Per imparare a identificare un linguaggio potenzialmente ingiurioso, Perspective ha esaminato decine di migliaia di commenti che sono stati etichettati manualmente da revisori umani. Ogni volta che Perspective trova nuovi esempi di commenti offensivi o potenzialmente tali, oppure la sua valutazione viene corretta dagli utenti, migliorano le sue capacità di valutazione future. L’esperienza con il New York Times Una versione di questa tecnologia è stata testata con il New York Times per aiutare il team che controlla e modera i commenti prima che vengano pubblicati, revisionando oltre 11mila interazioni ogni giorno. Con Perspective selezionare i commenti è più veloce ed è un valido aiuto per aumentare il numero di articoli commentabili. Il futuro Perspective si aggiunge alla libreria Open Source di TensorFlow e alla Google Cloud Machine Learning Platform come una ulteriore risorsa di machine learning che Google rende disponibile per gli sviluppatori. La tecnologia ancora in fase di apprendimento continuerà a migliorare nel tempo. Il primo modello è stato pensato per identificare il linguaggio offensivo, ma nel corso del prossimo anno saranno avviate nuove collaborazioni per offrire modelli che funzionino anche in lingue diverse dall’inglese e che siano capaci di identificare anche altre tipologie di interazioni potenzialmente pericolose.