Bullismo e cyberbullismo: prototipo di un chatbot per contrastarlo

The phenomenon of bullying and cyberbullying is growing, especially due to the spread of social media and messaging platforms. This thesis aims to address the problem by developing a chatbot that can prevent acts of bullying within online conversations. The chatbot, implemented on Telegram, is able to recognize offensive sentences and aggressive behaviors in real time, warning or banning the user who generated them. The system architecture is based on technologies such as Java, Node.js and integration with Google Cloud Vertex AI for natural language analysis. The tests conducted demonstrate that the chatbot is able to significantly reduce the number of offensive comments in the monitored chats. This work highlights how artificial intelligence can be used to promote a safer online environment, while highlighting the importance of an ethical approach in managing the automatic moderation of conversations.

Il fenomeno del bullismo e del cyberbullismo è in crescita, soprattutto a causa della diffu-sione dei social media e delle piattaforme di messaggistica. Questa tesi si propone di affrontare il problema sviluppando un chatbot che possa prevenire atti di bullismo all'interno delle conversazioni online. Il chatbot, implementato su Telegram, è in grado di riconoscere in tempo reale frasi offensi-ve e comportamenti aggressivi, avvisando o bannando l'utente che li ha generati. L’architettura del sistema si basa su tecnologie come Java, Node.js e l'integrazione con Google Cloud Vertex AI per l'analisi del linguaggio naturale. I test condotti dimostrano che il chatbot è in grado di ridurre significativamente il numero di commenti offensivi nelle chat monitorate. Questo lavoro sottolinea come l'intelligenza artificiale possa essere utilizzata per promuo-vere un ambiente online più sicuro, evidenziando però l'importanza di un approccio etico nella gestione della moderazione automatica delle conversazioni.