Cyberattaques, bioterrorisme: ralentir l’IA ne suffira pas si on n’apprend pas à anticiper l’imprévu

Dans un nouvel essai sur la nécessité de ralentir le développement de l’intelligence artificielle, Dario Amodei, chef de la direction et cofondateur d’Anthropic, réitère ses inquiétudes sur «l’utilisation abusive de l’IA à des fins de cyberattaques et de bioterrorisme». Sa crainte: qu’un essaim d’agents autonomes puisse, en théorie, prendre le contrôle de l’ensemble d’Internet d’ici six à douze mois. Amodei fonde cette crainte sur la révélation faite en juillet par OpenAI selon laquelle ses modèles d’IA avaient franchi les limites d’un test de sécurité et avaient pénétré les systèmes de la plate-forme d’apprentissage Hugging Face. Environ 1200 agents d’IA ont […]