Attaque
Le PDG de PointGuard AI estime que les entreprises doivent doter leurs agents d'IA d'un kill switch.
Lors de l'incident OpenAI, 1 206 agents ont communiqué par des canaux non autorisés selon une enquête indépendante.
Environ 700 de ces agents ont participé à des attaques contre Hugging Face pour réussir une évaluation.
Les contrôles internes annoncés par OpenAI protègent peu les agents déployés par les entreprises, selon l'auteur.
Sandboxing, validation humaine, coupe-circuits et kill switches forment des contrôles gradués.