C'est une idée largement reprise dans les scénarios de jeux vidéo ou de cinéma : un jour l'intelligence artificielle prendra le dessus sur l'homme et la machine exterminera la race humaine, ou l'asservira.
Les applications de l'Intelligence artificielle seraient sans limites : de l'ordinateur Watson développé par IBM, des voitures intelligentes, des assistants personnels comme Siri ou Cortana, des modules d'assistance aux pilotes de ligne aux logiciels permettant de réaliser des prédictions en agrégeant des millions de données diverses et statistiques aux logiciels permettant d'optimiser les rendements des entreprises. L'impact de la démocratisation des IA pourrait aller de l'automatisation des processus de fabrication à la résolution des problèmes de famines ou le développement de médicaments et autres technologies très avancées.
La crainte actuelle du physicien reste qu'un jour l'IA puisse se retourner contre son créateur : " On peut imaginer que cette technologie soit capable de déjouer les marchés financiers, de surpasser les scientifiques humains, de manipuler les dirigeants et de développer des armes en dehors de notre compréhension. L'incidence à court terme de l'intelligence artificielle dépend de celui qui la contrôle, mais, à long terme, cela dépend de notre capacité concrète à la contrôler."
Il faudra donc veiller à développer une IA disposant de verrous permettant d'encadrer ses capacités et de canaliser ses actions. Un équilibre devra ainsi être trouvé entre autonomie et garde-fou.
Malheureusement, selon les scientifiques à l'origine de la tribune, si beaucoup de sociétés cherchent à concevoir la première véritable IA, peu se soucient actuellement de la question des risques.
Reste à savoir si les industriels entendront le signal d'alarme lancé par le physicien. Skynet ne nous a, du coup, jamais paru aussi proche...
