News
OpenAI publie des premières lignes directrices pour des safety cases dédiés à l'entraînement de l'IA de pointe.
Une documentation de sécurité structurée devrait être exigée avant de poursuivre tout entraînement par renforcement de pointe.
Les safety cases restent un objectif à atteindre, plus difficile à rendre rigoureux pour l'IA que pour l'aviation.
Les garde-fous techniques couvrent l'entraînement à l'alignement, le confinement et la surveillance.
Chaque membre de la direction qui examine le safety case devrait pouvoir opposer son veto à l'entraînement.