Sentropy : L'outil de modération automatique

Présentation

Sentropy est un outil de modération automatique de contenu basé sur l'apprentissage automatique et centré sur l'être humain. 

Comment fonctionne Sentropy ?

En collaboration avec des linguistes, des membres de communautés en ligne et des modérateurs de contenu, le logiciel établit une typologie de quatre classes principales de textes avec des propos insultants, elles-mêmes divisées en treize sous-classes. Sentropy met à disposition une liste simplifiée de ces discours dans les documents de l'API.

L'annotation des données et l'itération des définitions des classes toxiques est une boucle de rétroaction sans fin qui prend en compte les nouveaux domaines et les nouvelles formes de discours toxiques.  La solution permet d'étiqueter rapidement et avec précision de grandes quantités de données. 

Avantages de Sentropie

Support multilingue

Les premiers modèles ont été conçus en anglais. Cependant, des recherches récentes ont été menées dans le domaine du traitement automatique des langues (TAL) multilingue. Il est donc possible de former des modèles qui sont effectivement "multilingues" et de partager des données balisées dans toutes les langues.

Évolution de la langue

Le sens des mots évolue avec le temps ; un propos outrageux est inventé chaque jour et les anciens termes tombent en désuétude. Sentropy tient la base de données à jour et vérifie constamment la qualité des informations grâce à une base de données dynamique.

Évaluation des performances

En raison de la nature changeante du langage, il est nécessaire non seulement de mettre régulièrement à jour les suites de tests, mais aussi de vérifier le comportement des modèles.

Sentropy dispose de plusieurs blocs de données clairement définis représentant certaines communautés, des modèles linguistiques spécifiques et même des sujets sémantiques tels que les jeux ou les sports. Cette organisation leur permet de ne rien perdre dans l'ensemble lors de l'évaluation des modèles, et les aide à diagnostiquer et à corriger rapidement les erreurs de modèle lorsqu'elles se présentent.