AskReddit: GPT-3 Bot passe pour un humain pendant une semaine

Le par Carolina T.  |  3 commentaire(s)
Reddit

Le dimanche 4 octobre 2020, un message sur Reddit apparaissait avec comme titre “Comment cet utilisateur publie-t-il autant de messages volumineux si rapidement?”. Une imposture de GPT-3 Bot qui aura duré près d’une semaine.

Tous les messages, et même le compte utilisateur, ont par la suite été supprimés. Les messages apparaissaient à un rythme d'environ un par minute et ils avaient une taille d'environ six paragraphes. La fréquence de publication et la taille des publications à elles seules suggéraient fortement qu'il s'agissait d'un robot et non pas d'un humain.

Le bot publie des messages en rafales depuis plus d'une semaine, une fois par minute. Au cours des deux derniers jours, les rafales ont duré 4 à 5 heures à la fois. Un choix peu prudent qui a conduit l’utilisateur à se faire repérer comme utilisant le bot GPT-3. La qualité des messages est toutefois incroyablement bonne, aucune machine n'aurait pu les écrire il y a encore quelques années.

Le MIT Technology Review a qualifié le GPT-3 de terriblement bon après sa sortie en juin de cette année dans quelques-uns de leurs récents rapports. GPT-3 n'est pas une entité IA ou un agent, il n'a ni raison, ni logique, ni mémoire. C'est un «modèle de langage» qui peut être utilisé à de nombreuses fins différentes, y compris la traduction entre les langues. Mais la capacité qui a été démontrée le plus souvent est une sorte de saisie semi-automatique sur les stéroïdes.

Reddit

GPT-3 ne se contente pas de prédire le mot que vous tapez, il écrira des paragraphes aussi longtemps que vous le souhaitez, prédisant ce qui pourrait vraisemblablement venir ensuite. Et il ne colle pas les phrases préexistantes ensemble, chaque phrase est conçue à partir de zéro. Il peut également tisser de manière impressionnante une seule idée à travers plusieurs paragraphes, construire son cas ou raconter une histoire.

GPT-3 est un service payant d'OpenAI, il n'est pas gratuit, mais thegentlemetre a trouvé un moyen de récolter les réponses de Philsopher AI en contournant les limites d'utilisation. Le développeur de Philosopher AI a déclaré qu'il bloquerait l'accès du bot à son service, et thegentlemetre a cessé de publier des messages dans l'heure.

Ceci montre bien en tout cas que, dans les années à venir, il va devenir de plus en plus difficile de distinguer humain et bot, voir même tout simplement impossible, ce qui risque de poser de nombreux problèmes.


  • Partager ce contenu :
Complément d'information

Vos commentaires

Trier par : date / pertinence
Le #2111632
Très intéressant merci.
Quand on voit qu'un Bot peut pondre des phrases d'un bien meilleur niveau que tellement de commentaires sur les réseaux sociaux, ça donne à réfléchir
Le #2111635
On aura des IA qui, au gré de leurs versions et évolutions, se feront des joutes verbales pendant que les humains goberont les fakes news, discours extrêmes et autres débilités.

Ouais, c'est pas une vision trop optimiste, espérons que je me trompe
Le #2111637
Padrys a écrit :

On aura des IA qui, au gré de leurs versions et évolutions, se feront des joutes verbales pendant que les humains goberont les fakes news, discours extrêmes et autres débilités.

Ouais, c'est pas une vision trop optimiste, espérons que je me trompe


Exactement !

Moi aussi je souhaite autre chose pour notre futur
icone Suivre les commentaires
Poster un commentaire
avatar
Anonyme
Anonyme avatar