Zero Harm in Comms : Ubisoft et Riot Games s’associent dans la lutte contre la toxicité dans les tchats des jeux en ligne

Ce n’est un secret pour personne. Si les jeux en ligne ont pour principal objectif de rassembler la communauté la plus large et diversifiée possible, il arrive que ce souhait ouvre également la porte à une part plus ou moins importante de joueurs au comportement douteux. Insultes, menaces, misogynie, racisme…, malgré la mise en place de divers outils pour combattre cette toxicité, discuter via des tchats textuels ou vocaux n’est malheureusement pas sans risque.

Afin de lutter plus efficacement contre ce problème qui existe déjà depuis bien trop d’années, Ubisoft et Riot Games, deux entreprises qui possèdent plusieurs titres axés sur une expérience multijoueur (Rainbow Six Siege, League of Legends, Valorant…), ont décidé de s’associer par l’intermédiaire de Zero Harm in Comms, « un nouveau projet de recherche visant à rendre les espaces de discussions des jeux vidéo en ligne plus sûrs. »

Objectif : Créer une IA repérant et analysant la toxicité en ligne

Porté par Yves Jacquier, directeur exécutif du département R&D Ubisoft La Forge, et Wesley Kerr, responsable de la recherche technologique chez Riot Games depuis environ six mois, Zero Harm in Comms est, à l’origine, « une base de données anonymisées et partagées utilisée pour entraîner les systèmes d’Ubisoft et de Riot à détecter et atténuer les comportements perturbateurs. »

Plus concrètement, le but est d’apprendre à une IA à repérer un maximum de scénarios nuisibles et à les cataloguer efficacement grâce à la base de données mentionnées précédemment.

Comme l’explique le membre de la société française, « il y a des mots-clés qui peuvent être immédiatement identifiés comme « mauvais ». Cependant, il est souvent beaucoup plus difficile d’analyser leur sens. Par exemple, si vous voyez la phrase « I’m going take you out » dans un tchat, qu’est-ce que cela signifie ? […] Si vous jouez à un jeu de tir compétitif, ce n’est peut-être pas un problème mais, si c’est un autre type de jeu, le contexte peut être totalement différent. »

Conscient que le projet n’en est encore qu’à ses débuts, Yves Jacquier et Wesley Kerr ont précisé dans le communiqué disponible sur le site officiel d’Ubisoft que les premiers résultats de leurs recherches seront partagés avec l’ensemble de l’industrie vidéoludique l’année prochaine. De plus, ils espèrent que d’autres éditeurs les rejoindront après avoir pris eux aussi conscience que les outils actuels mis en place pour lutter contre cette toxicité dans les tchats en ligne sont désormais insuffisants.

Notez d’ailleurs qu’en guise de conclusion, le représentant de la firme tricolore n’hésite pas à déclarer ceci : « Nous sommes en 2022. Tout le monde est en ligne et tout le monde devrait se sentir en sécurité, point final. » Reste maintenant à savoir si Zero Harm in Comms parviendra ou non à véritablement changer les choses dans ce domaine. A suivre.