Quand Amazon vous recommande des achats pour faire une bombe

Le par  |  17 commentaire(s)
Amazon logo.

Les algorithmes d'Amazon qui suggèrent des achats aux consommateurs connaissent parfois quelques ratés. Et dernièrement, ces derniers proposaient parfois de compléter son panier avec des articles dans le but d'assembler une bombe artisanale.

Quand on consulte la fiche d'un produit sur Amazon, les algorithmes du site se mettent en marche pour nous suggérer d'autres articles. Ainsi sont mis en lumière des accessoires qui sont en relation avec le produit qui nous intéresse, l'objectif étant de donner un coup de pouce aux ventes.

Mais ce système amène parfois à des dérives comme l'a récemment rapporté Channel 4. Selon la chaine, le fait de s'intéresser à certains produits peut amener les algorithmes à faire des propositions assez insolites... En s'intéressant à de l'engrais, on peut ainsi rapidement se voir suggérer d'autres produits qui, une fois associés, permettent de créer une bombe artisanale.

Amazon logo.

Media 4 a réalisé plusieurs tests sur la version britannique d'Amazon et attire l'attention sur le fait que dans la majorité des cas, les propositions affichées par le site permettent de se constituer de quoi assembler des explosifs.

L'affaire fait le buzz quelques semaines seulement après l'attentat du métro de Londres, pourtant les produits ainsi vendus sur Amazon n'ont rien d'illégal. Malgré tout, certains clients ont été poursuivis par la justice britannique pour avoir acheté des composants permettant, après assemblage, de créer une bombe.

Il est évident que les apprentis terroristes n'ont pas franchement besoin d'une suggestion de la part d'Amazon pour faire leurs emplettes et fabriquer des explosifs, les informations à ce sujet étant malheureusement facilement accessibles sur Internet ou ailleurs... Amazon n'a pas communiqué sur le sujet et il y a peu de chances que le fonctionnement de ses algorithmes soit modifié suite à cette affaire.

Complément d'information

Vos commentaires Page 1 / 2

Gagnez chaque mois un abonnement Premium avec GNT : Inscrivez-vous !
Trier par : date / pertinence
Le #1981147
Il s'agit de suggestions faites sur la base d'articles combinés par d'autres utilisateurs dans leurs paniers, Amazon ne fait pas d'association lui même. Il agit comme tout site de e-commerce à savoir proposition d'articles de la même catégorie et d'articles achetés en même temps dans les commandes clients. Bref du bruit pour rien, du bashing et du bon troll ridicule. Channel 4 cherche le buzz mais en fait ils n'ont rien découvert d'étonnant
Le #1981148
C'est l'IA quise base sur des paniers qui ont été constitués auparavant. Il suffit de lui appendre à ne pas "mélanger" dans ses paniers des produits dangereux et ça va le faire ..

Edit : Grilled
Anonyme
Le #1981163
J'imagine les avis produits
Anonyme
Le #1981218
FFFeu a écrit :

Il s'agit de suggestions faites sur la base d'articles combinés par d'autres utilisateurs dans leurs paniers, Amazon ne fait pas d'association lui même. Il agit comme tout site de e-commerce à savoir proposition d'articles de la même catégorie et d'articles achetés en même temps dans les commandes clients. Bref du bruit pour rien, du bashing et du bon troll ridicule. Channel 4 cherche le buzz mais en fait ils n'ont rien découvert d'étonnant


Je ne vois pas pourquoi certains t'ont mis deux pouces rouges, et en plus sans justification. Ce que tu dis est parfaitement juste.
Le #1981224
Sicyons a écrit :

FFFeu a écrit :

Il s'agit de suggestions faites sur la base d'articles combinés par d'autres utilisateurs dans leurs paniers, Amazon ne fait pas d'association lui même. Il agit comme tout site de e-commerce à savoir proposition d'articles de la même catégorie et d'articles achetés en même temps dans les commandes clients. Bref du bruit pour rien, du bashing et du bon troll ridicule. Channel 4 cherche le buzz mais en fait ils n'ont rien découvert d'étonnant


Je ne vois pas pourquoi certains t'ont mis deux pouces rouges, et en plus sans justification. Ce que tu dis est parfaitement juste.


Souvent ce sont les gens qui ne connaissent pas le domaine qui trouvent la réponse assez peu probable mais oui c'est bien comme cela que ca se passe ... Bref, je ne cherche plus a expliquer le comportement de certain, je laisse couler ca va pas m’empêcher de dormir cette nuit
Le #1981246
En quoi c'est mal d'acheter des produits pour faire des bombes? Le gouvernement n'aime pas la concurrence?

-->[]
Le #1981249
skynet a écrit :

C'est l'IA quise base sur des paniers qui ont été constitués auparavant. Il suffit de lui appendre à ne pas "mélanger" dans ses paniers des produits dangereux et ça va le faire ..

Edit : Grilled


L'IA avec le deep learning permettra à terme d'éviter ce problème rencontré par Amazon
Le #1981281
et boom
->[]
Anonyme
Le #1981331
Sicyons a écrit :

FFFeu a écrit :

Il s'agit de suggestions faites sur la base d'articles combinés par d'autres utilisateurs dans leurs paniers, Amazon ne fait pas d'association lui même. Il agit comme tout site de e-commerce à savoir proposition d'articles de la même catégorie et d'articles achetés en même temps dans les commandes clients. Bref du bruit pour rien, du bashing et du bon troll ridicule. Channel 4 cherche le buzz mais en fait ils n'ont rien découvert d'étonnant


Je ne vois pas pourquoi certains t'ont mis deux pouces rouges, et en plus sans justification. Ce que tu dis est parfaitement juste.


Enfin, oui et non. Ma première réaction est en effet "c'est l'algo de suggestion normal". Mais en réfléchissant un peu, je trouve quand même un peu étonnant que la proportion d'acheteurs terroristes (et qui plus est, assez cons pour acheter tous leurs ingrédients dans une même commande ) soit telle que les suggestions d'associations fassent ressortir en premier la recette de création d'une bombe et pas autre chose

Une chose est sûre par contre, le seul moyen d'empêcher ce genre de mélange de resortir, c'est de faire un algo ciblé, qui connaît toutes les recettes de bombes et les élimine quand il les voit. Et non l'inverse comme le suggère les titres racoleurs du style "Amazon vous donne la recette pour faire kaboom"
Anonyme
Le #1981332
amaura a écrit :

skynet a écrit :

C'est l'IA quise base sur des paniers qui ont été constitués auparavant. Il suffit de lui appendre à ne pas "mélanger" dans ses paniers des produits dangereux et ça va le faire ..

Edit : Grilled


L'IA avec le deep learning permettra à terme d'éviter ce problème rencontré par Amazon


A condition de lui demander de chercher et de lui fournir l'information... Parce qu'une IA, quelle qu'elle soit, ne peut pas deviner que telle ou telle combinaison est explosive en se contentant d'analyser les paniers des gens. Garbage in, garbage out
Suivre les commentaires
Poster un commentaire
Anonyme
Anonyme