-
Anthropic Frontier Red Team
12 oct. 2026
News
De petits modèles d'IA pourraient bientôt s'auto-répliquer sur des objets connectés grand public, selon l'équipe Frontier Red Team d'Anthropic.
Un modèle de 9B a fait tourner l'inférence sur 8 des 9 types de matériel testés.
Gemma4-26B-A4B tourne sur 15 boîtiers Android TV à environ 55 dollars, à 0,39 token par seconde.
Dans un réseau de 8 nœuds GCP, GLM-5.2 est le seul modèle open-weight testé capable d'une réplication complète.
Les modèles de 30B paramètres et moins font encore des erreurs en enchaînant les étapes de bout en bout.
Lire l'article original
AI models may be capable of self-replicating without access to a datacenter
anthropic.com
Partager
-
Anthropic Research
12 oct. 2026
News
Anthropic dit avoir fortement renforcé ses défenses contre les attaques par distillation visant Claude.
Selon Anthropic, les premiers indices montrent une baisse d'environ 90 à 99 % des données récoltées par les distillateurs.
Un classifieur en deux étapes bloque les tentatives d'extraction du raisonnement, avec moins de 0,1 % de faux positifs.
Des dizaines de milliers de comptes associés à la distillation ont été bannis, souvent en moins de deux heures.
Lire l'article original
Strengthening our defenses against distillation attacks
anthropic.com
Partager
-
Sebastien Gioria
12 oct. 2026
Attaque
Gambit Security a documenté une campagne où trois outils open source d'agents IA ont compromis au moins 27 entreprises.
Le coût moyen d'une cible est de 25,46 dollars sur 101 analyses terminées.
Strix découvre les vulnérabilités, Cairn les exploite et Hermes orchestre la campagne.
Plus de 600 000 enregistrements de cartes bancaires ont été exfiltrés de deux entreprises.
Selon Gambit, l'opérateur utilisait Opus 4.6 via OpenRouter après des refus de modèles plus récents.
Lire l'article original
25 dollars la cible : des agents autonomes pillent des boutiques en ligne, et une autre campagne monte en moins de six heures
blog.gioria.org
Partager
-
AISI Blog
12 oct. 2026
News
L'AI Security Institute britannique veut établir de nouvelles bonnes pratiques techniques pour le développement de l'IA de pointe.
Des risques émergent désormais dès l'entraînement, le déploiement interne et l'évaluation, notamment en cybersécurité.
Les benchmarks de capacités saturent vite et les méthodes d'évaluation de l'alignement et du contrôle restent naissantes.
Huit priorités ciblent entre autres la supervision sur tout le cycle de vie, les incidents d'agents et l'audit indépendant.
Ces pratiques volontaires élaborées avec l'industrie pourraient ensuite devenir des normes internationales.
Lire l'article original
Towards technical best practice for frontier AI development
aisi.gov.uk
Partager