L'outil informatique empêchant la republication de contenus identifiés comme illégaux n'a pas marché le jour de l'attaque, le 8 juin. Le réseau social a dû s'appuyer sur les signalements des utilisateurs pour modérer les rediffusions.
Un problème aux conséquences importantes. Twitter a développé un outil informatique pour empêcher que des utilisateurs republient des "contenus déjà identifiés comme illégaux", mais cet outil a dysfonctionné lors de l'attaque au couteau d'Annecy, selon l'Arcom, régulateur des médias, rapporte l'Agence France Presse, vendredi 23 juin.
Cet outil a "mal fonctionné le 8 juin [jour de l'attaque] et les jours suivants", et a laissé "s'opérer des remises en ligne des contenus vidéo montrant les agressions", selon un courriel du régulateur, l'Arcom. L'autorité a reçu ces explications mercredi lors de l'audition de la directrice des affaires publiques de Twitter pour la France, Claire Dilé, puis a envoyé ce courriel d'information à la Commission européenne.
Selon les explications de la responsable de Twitter, le réseau social a développé un outil nommé BMI "pour repérer et supprimer automatiquement les contenus (vidéos, photos...) déjà identifiés comme illégaux lorsque les utilisateurs tentent de les republier".
En raison de son dysfonctionnement au moment de l'attaque d'Annecy, "Twitter a dû s'appuyer sur les signalements des utilisateurs et des autorités afin de modérer manuellement les republications", selon le courriel. "Twitter a également pris l'initiative de surveiller activement les hashtags pertinents pour identifier et supprimer les republications", ajoute l'Arcom.
"En revanche, l'entreprise n'a pas informé ses partenaires (autorités, signaleurs de confiance...) de ce dysfonctionnement et de l'importance de continuer à signaler les nouvelles publications des vidéos", pointe l'autorité. Lors de son audition, la responsable de Twitter a rapporté que l'entreprise "n'avait à ce stade aucune explication sur les raisons du dysfonctionnement de l'outil ni de visibilité sur sa remise en état".