Microsoft développe un outil pour aider à identifier les prédateurs sexuels d'enfants dans les salles de chat de jeu

Microsoft a dévoilé jeudi un outil pour aider à identifier les prédateurs sexuels dans les salons de discussion en ligne et les applications, intitulé Project Artemis.

L'outil, que Roblox a aidé à développer, passe au peigne fin les conversations textuelles, en évaluant et en évaluant certaines caractéristiques de conversation pour les modèles utilisés par les prédateurs. Il évalue ensuite la conversation en fonction de sa probabilité d'être un exemple de toilettage, permettant aux entreprises de déterminer si une conversation mérite ou non une modération humaine.

Microsoft partage une technique de détection de toilettage, le nom de code «Project Artemis», par lequel les prédateurs en ligne tentant d'attirer des enfants à des fins sexuelles peuvent être détectés, traités et signalés. https://t.co/IZvjOExjAy (1/3)

– Microsoft sur les problèmes (@MSFTIssues) 9 janvier 2020

"Le" Projet Artemis "est un pas en avant significatif, mais ce n'est en aucun cas une panacée", a écrit Courtney Gregoire, directeur de la sécurité numérique de Microsoft dans un article de blog.

Microsoft a commencé le développement de Project Artemis en novembre 2018, puis l'a testé sur Xbox Live et Skype. L'outil sera autorisé à partir de vendredi par le biais de l'organisme à but non lucratif Thorn, qui construit lui-même des outils pour empêcher l'exploitation sexuelle des enfants.

Thorn a aidé au développement de l'outil, aux côtés de The Meet Group, Roblox et Kik. Le Dr Hany Farid, un universitaire avec des antécédents de travail dans la détection de l'exploitation sexuelle des enfants, a dirigé le développement.

"L'exploitation et les abus sexuels des enfants en ligne et la détection des soins aux enfants en ligne sont des problèmes importants", a déclaré Gregoire. "Mais nous ne sommes pas découragés par la complexité et la complexité de ces questions."

Articles similaires

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.

Bouton retour en haut de la page
Fermer