Google sviluppa un moderatore per siti web per rimuovere materiale terroristico

Google sta sviluppando un moderatore gratuito per i siti web più piccoli che possono utilizzare per identificare e rimuovere il materiale terroristico. Una risposta alla nuova legislazione nel Regno Unito e nell’Unione Europea che obbliga le aziende di internet a fare di più per fronteggiare i contenuti illegali.

Il software è stato sviluppato in collaborazione con l’unità di ricerca e sviluppo Jigsaw e con la società Tech Against Terrorism. L’iniziativa è sostenuta dalle Nazioni Unite per aiutare le aziende tecnologiche a combattere e contrastare il terrorismo online.
Ci sono molti siti web che non si occupano dell’applicazione della legge. Costruire gli algoritmi è un’operazione che richiede molto lavoro e risorse“, ha dichiarato Yasmin Green, Ceo di Jigsaw al Financial Times. “I siti web più piccoli non desiderano contenuti dell’Isis, ma inconsapevolmente ne hanno in enorme quantità, annidati nelle loro piattaforme“, ha aggiunto.

Le aziende fornitrici di servizi Internet saranno costrette a rimuovere i contenuti estremisti dalle loro piattaforme o, in alternativa, affrontare multe e altre sanzioni in base a nuove leggi come il Digital Services Act nell’UE, entrato in vigore a novembre, e il disegno di legge sulla sicurezza online del Regno Unito, che dovrebbe diventare legge quest’anno.


La legge è stata promossa da politici ed autorità di regolamentazione di tutta Europa, che sostengono che i gruppi Big Tech non sono più in grado di controllare in maniera massiva ed analitica tutti contenuti online.
Ma il nuovo regime normativo ha suscitato il timore che le start-up più piccole non siano attrezzate per adeguarsi e che la mancanza di risorse limiti la loro capacità di competere con le grandi aziende tecnologiche.

Ho notato un grande cambiamento nel fatto che le piattaforme leader stanno diventando molto più efficaci nella moderazione, e questo spinge i contenuti terroristici e le fake news sul Covid verso altri siti più piccoli”, ha detto Green.
Un rapporto del Global Internet Forum to Counter Terrorism (il forum globale per la lotta al terrorismo su internet) del 2021 ha stimato che per ogni 10.000 post su Facebook, sei contengono contenuti terroristici o estremisti. Sulle piattaforme più piccole, questa cifra potrebbe arrivare a 5.000, ovvero il 50% dei contenuti.
Anche GIFCT, un’organizzazione non governativa fondata da Facebook, Microsoft, Twitter e YouTube nel 2017 sostiene il progetto di Jigsaw. L’organizzazione non governativa dispone di un database di contenuti terroristici che i sistemi di moderazione possono utilizzare per individuare i materiali esistenti on line.

Il 13 dicembre, Facebook e Meta, proprietari di Instagram, hanno lanciato un software open source che altre piattaforme possono utilizzare per associare i contenuti terroristici a immagini o video esistenti nel database ed evidenziarli per la rimozione urgente.

Lo strumento di Jigsaw mira ad affrontare la fase successiva del processo e ad aiutare i moderatori umani a prendere decisioni sui contenuti segnalati come pericolosi e illegali. All’inizio di quest’anno inizieranno i test con due siti la cui identità rimane segreta.

Google sviluppa un moderatore per siti web per rimuovere materiale terroristico