Des modèles d’intelligence artificielle accessibles hors ligne pourraient faciliter certaines activités dangereuses liées aux armes chimiques et biologiques, selon un rapport de Crimson Flare consacré aux risques des systèmes d’IA non censurés. L’étude, intitulée Avoiding Total Abliteration, estime que des modèles open source modifiés pour supprimer leurs garde-fous pourraient permettre à des acteurs malveillants d’accéder plus facilement à des connaissances sensibles.
Des modèles d’IA accessibles et modifiables
Le rapport de Crimson Flare porte sur des modèles d’IA dont certaines protections peuvent être retirées ou contournées. Ces systèmes, parfois capables de fonctionner localement sur des ordinateurs, pourraient alors répondre à des demandes auxquelles les versions sécurisées refuseraient de répondre.
Selon les chercheurs, cette situation pourrait faciliter certaines étapes de recherches liées aux explosifs ou aux agents chimiques et biologiques. Le rapport ne permet toutefois pas d’affirmer qu’une personne inexpérimentée pourrait, avec une simple IA, fabriquer seule une arme fonctionnelle. Des connaissances pratiques, des équipements et des compétences spécialisées resteraient nécessaires.
L’étude s’inscrit dans un débat plus large sur les modèles d’IA open source et sur la difficulté de maintenir des garde-fous lorsque leurs utilisateurs peuvent modifier directement le système. La question porte donc aussi sur la capacité des autorités et des entreprises à contrôler l’usage de modèles qui ne dépendent pas nécessairement d’une plateforme centralisée.
Un risque déjà étudié au niveau international
Le rapport de Crimson Flare intervient alors que le risque biologique et chimique associé à l’IA fait l’objet d’évaluations internationales. Le International AI Safety Report 2026, publié le 3 février, indique que les systèmes d’IA généralistes peuvent fournir des informations utiles à différentes étapes du développement d’armes biologiques et chimiques. Le document précise que ces outils pourraient permettre à des utilisateurs novices d’accéder et de contextualiser certaines informations plus rapidement qu’avec de simples recherches sur Internet.
Le même rapport souligne toutefois que les résultats des études disponibles ne permettent pas de déterminer avec certitude dans quelle mesure ces capacités se traduiraient par une augmentation réelle de la capacité à produire des armes. Les évaluations restent donc accompagnées d’incertitudes.
Anthropic avait déjà publié en septembre 2025 une étude consacrée au biorisque. L’entreprise estimait alors que les modèles d’IA de pointe présentaient des signes plus préoccupants concernant leur capacité à contribuer à certains risques biologiques.
L’OIAC examine aussi les conséquences de l’IA
L’Organisation pour l’interdiction des armes chimiques (OIAC) a publié le 11 mars 2026 une évaluation consacrée à l’intelligence artificielle et à la Convention sur les armes chimiques. L’organisation estime que l’IA pourrait accélérer certaines activités scientifiques et transformer la recherche chimique, tout en créant de nouveaux enjeux de sécurité.
Ces différentes évaluations ne concluent pas que l’IA permet aujourd’hui à n’importe quel utilisateur de fabriquer une arme chimique ou biologique. Elles soulignent plutôt une évolution des capacités technologiques qui pourrait réduire certaines barrières d’accès à des connaissances sensibles. Le rapport de Crimson Flare ajoute une préoccupation particulière concernant les modèles dont les mécanismes de sécurité peuvent être supprimés ou contournés.
