Avec l'amélioration exponentielle des modèles d'IA, OpenAI prend les devants en créant un poste au nom évocateur : Head of Preparedness ou chef de la préparation. Annoncée par le patron Sam Altman, cette initiative a pour but de mettre en place un cadre rigoureux afin d'anticiper et atténuer les défis réels que posent les technologies d'IA.
Quels sont les risques que ce nouveau poste devra gérer ?
Le champ d'action du Head of Preparedness est vaste et couvre les scénarios les plus inquiétants. Sam Altman a explicitement mentionné plusieurs domaines critiques.
La cybersécurité est en première ligne. Pour Sam Altman, les modèles " deviennent si bons en sécurité informatique qu'ils commencent à trouver des vulnérabilités critiques ". Le risque est que des acteurs malveillants utilisent l'IA pour orchestrer des cyberattaques sophistiquées, une menace déjà illustrée par des rapports d'autres entreprises comme Anthropic.
La biosécurité est une autre préoccupation, évoquant le spectre d'IA utilisées pour concevoir des armes biologiques. L'impact sur la santé mentale est également un sujet sensible.
Le nouveau responsable devra établir des " modèles de menace " et des " évaluations de capacités " pour chacun de ces domaines.
Une rémunération à la hauteur d'un travail stressant
L'offre d'emploi et les déclarations de Sam Altman dessinent le portrait d'un rôle à très haute pression. " Ce sera un travail stressant et vous plongerez dans le grand bain presque immédiatement. "
La mission est de diriger la stratégie de préparation d'OpenAI de bout en bout, en collaborant avec toutes les équipes. La personne choisie devra prendre des " décisions techniques à fort enjeu dans un contexte d'incertitude ", selon l'annonce.
Avec une rémunération affichée à plus de 500 000 dollars par an, assortie d'actions, OpenAI cherche un profil capable de jongler entre une expertise technique pointue et une vision stratégique globale.
Ce poste arrive-t-il trop tard ?
La création de ce poste chez OpenAI soulève une question inévitable : n'est-il pas déjà un peu tard ? Des problèmes ont déjà émergé et des chatbots IA ont été impliqués dans des tragédies personnelles.
Le Head of Preparedness d'OpenAI devra " faire évoluer le cadre de préparation à mesure que de nouveaux risques, capacités ou attentes externes apparaissent ". L'enjeu est de trouver un équilibre entre l'innovation et la limitation des inconvénients.
