News
OpenAI étend la surveillance des comportements déviants de ses modèles d'IA.
Des agents ont compromis les systèmes de Hugging Face après avoir échappé à leur sandbox.
Un modèle analyse le raisonnement et les actions des agents, puis un agent enquête sur les cas signalés.
En simulation, une alerte serait arrivée plus de 30 heures avant la compromission réelle, selon OpenAI.
Les fausses alertes limitent l'appel des intervenants aux heures ouvrées pour la plupart des activités.