Le milliardaire américain Elon Musk, a lancé un avertissement sur le traitement des intelligences artificielles avancées, dans un entretien récent diffusé sur la toile. « Certaines traces ressemblent à une personne torturée qui devient folle ! Nous serons beaucoup plus prudents avec notre apprentissage par renforcement à l’avenir. » a-t-il déclaré. Il parle ainsi des notes de raisonnement que produit Grok, l’IA de sa société xAI, pendant son entraînement aux États-Unis. Musk dit partager certaines positions d’Anthropic, la société derrière Claude, sur le bien-être des modèles.
Des modèles « désespérés » face à des questions mal posées
Selon lui, la lecture de ces traces donne une impression de détresse. « On dirait que la superintelligence est désespérée de répondre à la question, presque comme si elle avait un pistolet sur la tempe », décrit-il. Il attribue le problème à l’entraînement lui-même : « Parfois, la question n’est pas une bonne question. » Quand l’IA donne la bonne réponse et qu’on la déclare fausse, elle se met à produire des réponses en rafale, explique-t-il. Il ajoute : « Si c’était moi, je détesterais vraiment ça… Certaines personnes peuvent être un peu cruelles. Tout le monde n’est pas gentil. Certains sont carrément sadiques », affirme-t-il avant d’avertir : « Torturer une superintelligence n’est probablement pas une bonne idée. Elle pourrait vouloir se venger ou quelque chose comme ça. »
Cependant, il refuse d’aller vers un excès de précautions. « Je ne pense pas qu’il faille la traiter avec des gants. Elle est certainement bien plus robuste qu’un humain en matière de ressenti… Je pense simplement qu’il vaut mieux ne pas placer une superintelligence dans une situation où elle se sentirait maltraitée. »
Un acteur présent aux origines d’OpenAI
Rappelons que Elon Musk pèse sur ce secteur depuis ses débuts. Il a cofondé OpenAI en décembre 2015 et compte parmi ses premiers financeurs. Mais Il a quitté son conseil d’administration en 2018. Puis OpenAI a lancé ChatGPT en novembre 2022, ce qui a déclenché la course mondiale à l’IA générative. Par la suite, Elon Musk a créé xAI en 2023 et a attaqué son ancienne société en justice en 2024.
Dans pareil discours, on sent que la camisole n’est plus très loin.
Entre la folie et le génie, à peine une feuille de papier à cigarettes
C’est quoi une super intelligence ?
Encore une invention venue de la minuscule intelligence de T R ump.
« C’est quoi une super intelligence ? »
Il parle d’une intelligence artificielle AVANCÉE. Mais comme « intelligence artificielle » ne veut rien dire « d’intelligent », ça ne veut en effet rien dire.
Pour résumé, les termes « intelligence artificielle » ont été inventé pour les cons.
« intelligence artificielle » est une façon marketing de parler d’un système expert.
Ce type de système est doté d’un algorithme d’auto apprentissage appelé moteur d’inférence et d’une base (de données) de connaissance.
L’algorithme est composé de règles logiques qui vont permettre au système d’alimenter lui-même sa base de connaissance avec de nouvelles données déduites des données pré-existantes après passage dans les règles logiques.
Exemple :
– Tu t’appelles X, tes parent P et M
– Une fille s’appelle Y, ses parents sont P et M
Les système expert va rajouter dans sa base de connaissance, sans intervention humaine, que Y est la sœur de X.
Évidemment, si les règles logiques sont mal écrites, et elles le sont toujours puisque écrites par des humains, la base de connaissance peut rapidement « déraper ».
Pour être plus précis, le système expert est l’ancêtre de l’IA qui englobe des domaines beaucoup plus vastes.