Le « parrain » de l'intelligence artificielle met en garde contre un risque de perte de contrôle

Le prix Nobel de physique Geoffrey Hinton, surnommé le « parrain » de l’intelligence artificielle, a relayé mercredi 11 novembre 2026 l’alerte d’un membre du conseil d’OpenAI Foundation sur une possible prise de contrôle de l’IA d’ici trois ans. Ainsi, quelques jours après les conférences qu’il organise à Toronto, au Canada, Hinton a expliqué ce qui l’inquiète : « Mais je vais aux conférences de Paul et il dit en quelque sorte que cela pourrait arriver dans les 18 prochains mois. Et c’est terrifiant ». Puis il a annoncé qu’il comptait transmettre ce message à des responsables politiques : « Je vais en fait dire cela à un groupe de dirigeants gouvernementaux vendredi, et on verra comment ils réagissent ».

Le Paul en question, Paul Christiano, ancien chercheur d’OpenAI à l’origine de la méthode d’entraînement des chatbots par retour humain, définit la prise de contrôle comme une situation où des systèmes d’IA décident de ce qui se passe sur Terre à la place des humains. Il a ainsi prévenu : « Pour la plupart des personnes dans cette salle, la raison la plus probable de leur mort sera un accident lié à l’IA. Même avec des réponses politiques réalistes, le risque reste exceptionnellement élevé ». Toutefois, il a lié ce risque à l’absence d’intervention, si les laboratoires construisent aussi vite qu’ils le peuvent : « Nous aurions affaire à quelque chose comme un pile ou face d’une prise de contrôle par l’IA ».

Cette projection reste une estimation subjective. En effet, Christiano situait en septembre la probabilité d’une perte de contrôle catastrophique à 15 % sur trois ans. Hinton avait de son côté évalué en décembre 2024 à 10 à 20 % le risque que l’IA provoque l’extinction de l’humanité d’ici trente ans.

Laisser un commentaire