Il presupposto fondamentale per contrastare efficacemente i commenti di incitamento all’odio su Internet è individuarli in modo rapido e affidabile. A tal fine, il progetto Stop Hate Speech utilizza l’algoritmo Bot Dog, addestrato in collaborazione con ricercatori dell’ETH e dell’Università di Zurigo. Uno studio che descrive in dettaglio lo sviluppo e l’addestramento dell’algoritmo è stato presentato e pubblicato alla fine del 2022 nell’ambito di una conferenza internazionale (EMNLP 2022).
Il Bot Dog si basa su un set di dati unico nel suo genere, che comprende complessivamente oltre 420'000 commenti online in tedesco e francese. Questi sono stati annotati da una comunità online e da ricercatori e ricercatrici universitari per stabilire se contenessero incitamento all’odio e, in caso affermativo, contro chi fosse diretto (maggiori informazioni sulla definizione di incitamento all’odio). Grazie a questa grande quantità di esempi, l’algoritmo ha potuto imparare a riconoscere l’incitamento all’odio in lingua tedesca e francese sulle piattaforme mediatiche svizzere e su Twitter
L’algoritmo è stato sviluppato dal team di ricercatori dell’ETH e dell’Università di Zurigo, sotto la guida di Ana Kotarcic, nel corso di un anno attraverso diverse iterazioni. Le basi sono state gettate con un sistema di classificazione statistica più semplice. L’approccio consente di identificare i commenti che probabilmente contengono incitamento all’odio già con quantità di dati notevolmente inferiori. Fondamentale in questo contesto è la verifica costante dell’accuratezza dell’algoritmo ad ogni iterazione tramite l’annotazione umana (“human-in-the-loop”). Ciò garantisce al contempo che vengano annotati continuamente nuovi commenti online, grazie ai quali il bot Dog possa continuare ad apprendere.
Il numero di commenti online annotati, in crescita ad ogni iterazione, ha infine permesso di addestrare l’algoritmo Bot Dog utilizzando i più moderni modelli Transformer nel campo dell’apprendimento automatico. Rispetto ad altri algoritmi multilingue di classificazione dell’incitamento all’odio, Bot Dog è addirittura il più preciso. Ed è l’unico algoritmo finora sviluppato appositamente per il contesto svizzero.
Lo studio evidenzia però anche che l’odio in rete è in continua evoluzione. Un algoritmo che oggi funziona bene può rivelarsi molto meno efficace già dopo pochi mesi. Ciò sottolinea quanto sia importante addestrare continuamente il Bot Dog con dati aggiornati. Nel progetto «Stop Hate Speech», l’algoritmo consente un monitoraggio regolare dei discorsi di incitamento all’odio e delle decisioni di moderazione. Ciò favorisce, ad esempio, una replica tempestiva per contrastare efficacemente l’odio. Di conseguenza, non è importante solo identificare rapidamente i commenti di incitamento all’odio, ma anche garantire che tale riconoscimento funzioni sempre in modo affidabile nel contesto dell’attualità.
Studio: Ana Kotarcic, Dominik Hangartner, Fabrizio Gilardi, Selina Kurer and Karsten Donnay. (2022). Human-in-the-Loop Hate Speech Classification in a Multilingual Context. In Findings of the Association for Computational Linguistics: EMNLP 2022, Abu Dhabi, United Arab Emirates. Association for Computational Linguistics.