Une photo d'un magasin de jardinage a été déterminée plus que suggestive par l'Intelligence Artificielle du réseau social, mais cette affaire a fait l'effet d'une publicité virale.
Crédit : Mockup Graphics
A quoi vous pensez en voyant un oignon ? C'est la nouvelle qui fait sourire. Le magasin Gaze Seed Compagny, spécialisé dans les engrais et les semences au Canada, a eu une sacrée surprise. Afin de faire la promotion de ses produits, il avait publié une image d'oignons conservés dans un panier en osier. L'algorithme du modérateur de Facebook y a vu un contenu à caractère sexuel et l'a aussitôt censuré.
Sa forme arrondie et sa couleur de peau y sont peut-être pour quelque chose. Le gérant du magasin s'est amusé de la situation : «Je suppose que quelque chose dans les deux formes rondes pourrait être interprété comme des seins ou quelque chose comme ça» a déclaré Jackson McLean, directeur de l'entreprise canadienne. Depuis, un modérateur Facebook est intervenu et a rendu visible de nouveau la publication.
Cet oignon de la catégorie Walla Walla n’était pas répertorié par l’algorithme automatisé, ce qui l’a sans doute perturbé et associé à des connotations trop sensuelles. La légende «extrêmement sucré, doux et gros» en a peut-être rajouté une couche dans la «sex attitude» du légume. Meg Sinclair, responsable des communications de Facebook Canada, est intervenu sur CNBC : "Nous utilisons une technologie automatisée pour empêcher la nudité dans nos applications. Mais parfois, il ne reconnaît pas la différence entre un oignon Walla Walla et vous voyez ce que je veux dire. Nous avons restauré la publication et nous sommes désolés du problème rencontré par l'entreprise”.
Le modérateur Facebook a encore des progrès à faire. Le fondateur du réseau social, Mark Zuckerberg, avait lui-même affirmé qu'il était plus facile de supprimer ce genre d'images associées à la nudité que de repérer les messages de haine. Ce sont des millions de contenus qui sont effacés sur la plateforme chaque année avec de nombreuses erreurs corrigées par la suite. En tout cas, cette affaire a donné une belle visibilité au magasin de jardinage.