L'un des temps forts de la conférence d'introduction du Google I/O 2018 a été la démonstration de Google Duplex, une fonctionnalité permettant à Google Assistant de passer un appel à la place de l'utilisateur pour prendre par exemple un rendez-vous.
C'est alors l'IA qui passe l'appel et converse directement avec l'interlocuteur, menant la conversation comme le ferait un véritable humain. Lors de l'une des démonstrations faites durant la keynote, un appel est passé à un véritable salon de coiffure pour organiser un rendez-vous.
L'exemple a bluffé par la qualité de la voix synthétique mais aussi par les effets donnés à la conversation, avec ses silences, ses intonations et ses tics de langage ("mmh-mmh") judicieusement placés, au point que l'interlocutrice du salon de coiffure ne semble pas avoir perçu qu'elle parlait en fait à un intelligence artificielle.
Aussi impressionnante soit-elle, et c'était assurément le but recherché, cette démonstration a généré des critiques sur cette capacité à rendre l'inhumain si mimétique qu'il parvient à tromper l'humain en l'imitant à la quasi-perfection (au moins dans le cadre d'un scénario linéaire comme la prise d'un rendez-vous).
Certains y voient déjà le danger qui utiliserait ce type de technologie pour tromper des êtres humains et appellent à la nécessité d'une transparence ne permettant pas de douter de la nature de l'interlocuteur.
En réponse, un porte-parole de Google a indiqué depuis que Google Duplex n'est pas finalisé et continue de faire l'objet d'évolutions. Parmi celles-ci, il est prévu que l'intelligence artificielle soit clairement identifiée en tant que telle.
