Microsoft says AI can create “zero day” threats in biology

Microsoft (via son responsable scientifique Eric Horvitz) alerte sur un risque inédit : l’IA pourrait générer des « vulnérabilités zero-day » en biologie — c’est-à-dire des séquences biologiques dangereuses que les systèmes de sécurité actuels ne détectent pas.

Le terme « zero-day » est emprunté à la cybersécurité : un défaut inconnu des développeurs et exploitables avant qu’une correction ne soit déployée.

L’équipe a utilisé des outils d’IA pour « paraphraser » des protéines toxiques connues (notamment la ricine), c’est-à-dire générer des variantes nouvelles (modifiées) qui conservent une fonction toxique mais ne ressemblent plus aux séquences qu’on sait identifier.

Ces séquences reformulées ont pu passer à travers les systèmes de filtrage utilisés par les entreprises de synthèse d’ADN (destinés à détecter les agents pathogènes ou toxines) sans déclencher d’alerte. Lire la suite