Descrizione e obiettivi del progetto
Il cyberbullismo, che sempre più spesso ha origine in ambito scolastico, rappresenta una fonte non trascurabile di costi per il sistema economico, sociale ed educativo del Paese. Per contrastare il problema, Il Dipartimento di Filosofia, Sociologia, Pedagogia, Psicologia Applicata - FISPPA dell’Università degli Studi di Padova, insieme a Fondazione Carolina, ha lanciato il progetto NetGuardian.
Un’app a disposizione di studenti, servizi scolastici e associazioni attive nella lotta al cyberbullismo, basata su un modello di Intelligenza Artificiale in grado di misurare il rischio di cyberbullismo nelle conversazioni digitali attraverso NLP e metodologia MADIT. Il progetto prevede l’individuazione e la classificazione dei rischi su tutte le piattaforme di messaggistica per attivare interventi mirati in base alla gravità dell’aggressione verbale rilevata: l’App valuta e categorizza il linguaggio utilizzato su una scala da 1 a 10, dove l’1 rappresenta un minimo rischio e il 10 rappresenta il massimo rischio.
 
Utilizzo innovativo delle tecnologie
Il progetto NetGuardian prevede la creazione di un algoritmo di Machine Learning per l’analisi automatizzata del testo, che utilizza il modello di Deep Learning BERT, e la generazione dell’indice di rischio attraverso un output associato a specifici valori emersi dall’analisi del linguaggio naturale.
L’App prevede anche una Chatbox, che registra l’input (testo o screenshot di chat) e restituisce un output in valore numerico misurando il rischio di cyberbullismo espresso dalla chat. Se il valore oscilla tra 1 e 3 (basso rischio) verrà chiesto allo user di continuare ad inserire nell’App le successive conversazioni; se il valore è tra 4 e 7 (medio rischio) si consiglia allo user di prendere contatti con i servizi del territorio; se il valore è superiore a 7 si avvisa lo user che verrà contattato da una task force di assistenza.