L’algorithme de Facebook a censuré des oignons.
Une photo d’oignons à caractère « ouvertement sexuel »
La semaine dernière, le personnel d’une jardinerie canadienne est resté cloué au sol après que Facebook ait censuré une photo d’oignons à « caractère ouvertement sexuel« .
L’image offensante, publiée sur la page Facebook officielle de la Gaze Seed Company, montrait une poignée d’oignons blancs placés dans un panier en osier.
« Nous venons donc d’être informés par Facebook que la photo utilisée pour notre graine d’oignon Walla Walla est « ouvertement sexuelle« », a écrit Gaze’s sur sa page Facebook officielle samedi.
« [La photo] ne peut donc pas être annoncée pour être vendue sur leur plateforme… Vous pouvez la voir ? Une bande d’esprits mal tournés là-bas. »
L’entreprise, basée à Terre-Neuve, a publié les commentaires à côté de la photo en question, ainsi qu’une capture d’écran de la réponse de Facebook.
L’algorithme de Facebook a censuré la photo « trop sexy » des oignons
Facebook contrôle les contenus offensants sur sa plateforme en utilisant un mélange de modérateurs humains et d’intelligence artificielle.
Si quelqu’un signale une image, la photo est scannée par des algorithmes qui déterminent si elle enfreint ou non les conditions d’utilisation de l’application.
Dans de nombreux cas, le contenu est retiré sans qu’un modérateur ne pose jamais les yeux dessus. Le système est assez précis, mais pas parfait.
Dans le cas de l’article de Gaze, il semble que les contrôleurs de contenu des robots aient supposé qu’il contenait des éléments bien plus obscènes que de simples oignons.
« Les annonces ne doivent pas positionner les produits ou services d’une manière sexuellement suggestive« , lit-on dans un message automatique envoyé à l’entreprise par Facebook.
L’entreprise n’a pas précisé ce qui, exactement, était considéré comme sexuel.
« Nous avons été informés l’autre jour qu’il s’agissait d’une « image ouvertement sexuelle » qu’ils devaient interdire sur le site », a déclaré Jackson McLean, directeur de Gaze, à la CBC.
« Je suppose que les deux formes rondes pourraient être interprétées comme des seins ou quelque chose comme ça, nus d’une certaine manière.
C’était un inconvénient mineur pour celui qui gère le compte, mais au moins les fans de The Seed Company ont pu voir le côté amusant.
Un utilisateur de Facebook a fait un commentaire sous le post : « Des oignons ? J’ai vu quelques posts de carottes qui pourraient être douteux ».
À lire aussi :
Discriminations raciales : Facebook va rechercher si ses algorithmes sont racistes