NetGuardian, ecco l’AI che scova il cyberbullismo nelle chat dei ragazzi

È in questi casi che si rivela utile uno sguardo esterno ed esperto. Quello messo a punto dal dipartimento di Filosofia, Sociologia, Pedagogia e Psicologia applicata dell’Università di Padova si chiama NetGuardian: è un modello di intelligenza artificiale che, rispettando l’anonimato, opera automaticamente nelle chat scolastiche e grazie a un algoritmo è in grado di monitorare il grado di esposizione al rischio di cyberbullismo delle conversazioni digitali all’interno del gruppo classe.

Una sorta di sentinella virtuale alla quale si affianca – o dovrebbe affiancarsi – il lavoro dei team messi in campo dalle scuole.

 NetGuardianChat nasce come progetto di ricerca dell’Università di Padova e della Fondazione Carolina – intitolata a Carolina Picchio, prima vittima riconosciuta di cyberbullismo in Italia – e vince la Call for Ideas 2023 di Fondazione Tim. Il progetto è partito a febbraio scorso con un lavoro di analisi della letteratura sul tema e di raccolta dati per la costruzione del dataset di analisi per l’AI.

Tra giugno e settembre è stato messo a punto l’indice teorico di esposizione al rischio e a ottobre è partita la prima sperimentazione in sei classi dell’istituto superiore Zaccaria di Milano, 97 studenti in tutto.

A gennaio, dopo le vacanze natalizie, in altri quattro istituti superiori di Milano inizierà una seconda fase di sperimentazione che coinvolgerà anche i docenti. Tra aprile e giugno i risultati saranno analizzati e poi presentati con un convegno.

Il modello di intelligenza artificiale su cui si basa NetGuardian utilizza i riferimento teorici e metodologici della scienza Dialogica. La misura di esposizione al rischio di cyberbullismo è stata generata attraverso una tavola dei repertori discorsivi che formalizza le modalità con cui si interagisce, tanto nel mondo fisico quanto in quello virtuale. Nella tavola sono stati individuati alcuni discorsi “sentinella” che determinano i quattro livelli di esposizione al rischio.

Più nel concreto, NetGuardian ha due applicativi: una piattaforma di messaggistica in cui gli studenti possono registrarsi, costruire un proprio profilo, creare una chat e scambiarsi messaggi. Un secondo applicativo è costruito per i docenti che possono avere in tempo reale un riscontro sul grado di rischio delle conversazioni in corso tra gli studenti. Quando l’algoritmo registra un rischio alto, il docente può attivare la task force di servizi coordinata dalla Fondazione Carolina che interviene “fisicamente”.

In futuro si immagina che NetGuardian possa diventare un plug-in di altre piattaforme di messaggistica, integrandole, a cominciare da Classroom, l’applicazione del ministero. Ma già adesso, secondo i promotori del progetto, NetGuardian potrebbe sostituire gli strumenti di parental control, grazie al fatto che controlla non cosa viene scritto ma come viene scritto.

Quello che è emerso nei primi tre mesi di sperimentazione è che il 70% degli studenti coinvolti non riesce a valutare se nella chat ci sono segnali di cyberbullismo, anche quando questi sono evidenti. «Il 36% dei ragazzi inclusi in una chat di rischio medio-alto ha descritto le interazioni come “divertenti”, “tranquille” o “scherzose”, anzi “tipiche ca…ate tra compagni di classe”», racconta Gian Piero Turchi, professore dell’Università di Padova e responsabile scientifico del progetto. Questo dimostra che gli studenti non sono sempre in grado di riconoscere segnali di violenza e dunque difficilmente chiederanno l’intervento di insegnanti e genitori.

Ecco perché l’intervento di NetGuardian diventa ancora più prezioso. «Il valore distintivo del progetto è quello di analizzare le chat in tempo reale e valutare il grado di esposizione al rischio di cyberbullismo», spiega Teresa Camellini, responsabile del progetto NetGuardian, «intercettando i casi prima che sfocino in assetti con conseguenze che possono comportare anche gravi episodi di violenza sia nei confronti propri che di terzi, senza attendere che sia lo studente a esporsi e denunciare l’accaduto».