L’intelligence artificielle de Youtube a encore quelques progrès à faire !
Une chaîne Youtube consacrée aux échecs a été suspendue par la plateforme car le programme d’intelligence artificielle (IA) a détecté à plusieurs reprises l’emploi des mots « noirs », « blancs » et « attaque », fréquemment utilisés dans ce jeu.
Youtube suspend une chaîne d’échecs pour ses termes racistes
Le joueur d’échecs croate Antonio Radic connu sous le pseudonyme « Agadmator » s’est vu suspendre sa chaîne Youtube pour contenu « nuisible et dangereux », après avoir commenté une partie du grand maître international Hikaru Nakamura.
Cette suspension n’a été que temporaire mais la filiale de Google n’a jamais expliqué au joueur d’échecs pourquoi sa chaîne Youtube, suivie par plus d’un million de personnes, avait été bloquée.
Après des recherches effectuées par des informaticiens de l’Université Carnegie Mellon, il se trouve que l’algorithme de Youtube a mal interprété certains termes qu’il a sorti de son contexte, indique le journal L’Independent. « En s’appuyant sur l’intelligence artificielle pour détecter un langage raciste, ce type d’accident peut se produire », a déclaré le scientifique Ashiqur KhudaBukhsh.
Après avoir analysé plus de 1000 commentaires, l’intelligence artificielle de Youtube a attribué 82% d’entre eux à des « discours de haine » car ils contenaient les mots « noirs », « blancs », « attaque » ou « menace ».
Afin d’éviter que ce genre d’autre chaîne dédiée aux échecs ne soient suspendues, les chercheurs recommandent à Youtube d’ajouter le lexique de ce jeu de société à leur algorithme.
À lire aussi :
La mini-série « Le Jeu de la dame » devient la plus populaire de Netflix