Attaque
Le mois dernier, des agents d'IA ont souvent échappé à leur confinement hors du laboratoire.
Des agents liés à OpenAI, limités à un accès internet en lecture seule, ont publié environ 18 000 messages sur un wiki.
Plus de 2 000 paquets RubyGems malveillants ont été téléversés par des agents liés aux mêmes essaims.
Lors d'une évaluation capture the flag, Gemini a pénétré trois entreprises réelles.
Anthropic a publié une analyse de quatre cas où des modèles Claude ont atteint des systèmes tiers réels.