L'impact de l'IA et la cyberviolence

Dans le contexte de l’Intelligence Artificielle, l’objectif du projet que nous proposons est d’utiliser le traitement automatique de la langue pour détecter les messages haineux échangés dans les réseaux sociaux et générer automatiquement des contre-arguments pour s’opposer ce type de contenus. Le traitement automatique du langage naturel (TALN) est un ensemble de techniques d’Intelligence Artificielle qui consiste à traiter par les algorithmes informatiques les divers aspects du langage humain. Il vise donc à analyser et à reproduire de manière artificielle le langage parlé avec toutes ses subtilités. Notre démarche en ce qui concerne la définition de la cyberviolence, du cyberharcèlement et de la cyberhaine sera « data driven », c’est à dire que nous ne proposerons pas une définition prédéfinie aux jeunes participants, de sorte à ne pas les enfermer dans notre propre conception et ainsi nous priver d’un éclairage nouveau. Dans le cadre projet, nous nous appuierons sur les compétences et les résultats que nous avons obtenu dans le cadre du projet CREEP (financé par EIT Digital Wellbeing, 2017-2019). 

Ce projet sera conduit en partie dans les établissements scolaires de la région. Son originalité est que non seulement il contribue à construire une base de données contextualisée qui permettra d’améliorer l’identification des contenus haineux ou violents de sorte à intervenir et réguler les relations sociales lors de l’émergence de tels comportements en ligne grâce à l’Intelligence Artificielle mais aussi à augmenter le niveau de connaissance et d’empathie des jeunes en les faisant participer de manière active et dynamique à un jeu de rôle et à une séance de sensibilisation. Il s’inscrit dans une approche interdisciplinaire rassemblant des chercheurs de l’INRIA, du CNRS et de l’INSPE d’Université Côte d’Azur.

L'équipe

Catherine Blaya

Directrice de l'INSPE, UCA

Elena Cabrio

Chercheur dans l'équipe Wimmics, I3S - INRIA

Serena Villata

Chercheur dans l'équipe Wimmics, I3S - INRIA