L’IA est-elle vraiment prête pour notre société ? Un ex-ingénieur de Google répond

L’été dernier, l’ancien ingénieur de Google et éthicien de l’IA, Blake Lemoine, a fait sensation en affirmant que le modèle de grande langue LaMDA de Google était consciente. La déclaration de Lemoine a suscité un débat sur la sensibilité des modèles de langage de pointe et a mis en lumière les défis éthiques auxquels l’industrie de l’IA est confrontée. Après la polémique, Lemoine partage ses réflexions sur l’état de l’industrie de l’IA et les défis à venir en matière d’éthique, de transparence et de compréhensibilité dans une interview accordée au site Futurism.

Selon Lemoine, le débat sur la sensibilité de l’IA peut être une distraction. Il estime que nous pourrions utiliser les outils d’investigation scientifique développés par la psychologie pour mieux comprendre la cognition des systèmes d’IA et développer des modèles plus contrôlables et compréhensibles. Lemoine souligne également l’importance de se concentrer sur la transparence et la compréhensibilité des modèles, plutôt que de se disputer sur les termes utilisés pour décrire leur fonctionnement.

Les entreprises technologiques telles que Google et OpenAI ont fait d’énormes progrès dans le développement de modèles de langage sophistiqués. Cependant, Lemoine affirme que ces entreprises ont également investi beaucoup de temps et d’efforts pour garantir la sécurité de leurs modèles, en s’assurant qu’ils ne génèrent pas de contenu problématique ou biaisé. Par exemple, Google aurait pu publier une version plus avancée de son modèle LaMDA il y a deux ans, mais a choisi de passer du temps supplémentaire à travailler sur sa sécurité.

Malgré ces avancées, Lemoine met en garde contre les dangers potentiels de l’IA, en particulier dans un Internet riche en contenu synthétique. Les escrocs et les arnaqueurs pourraient tirer parti des modèles de langage pour générer du contenu trompeur et mener des escroqueries plus sophistiquées. Lemoine appelle donc à une régulation plus stricte et à une meilleure compréhension des systèmes d’IA pour minimiser ces risques.