La sécurité des modèles de grande capacité attire une attention croissante alors que Anthropic et OpenAI ont déclaré être disposés à laisser des entités externes conduire des évaluations de risques. Le geste marque une évolution dans l’accès aux systèmes les plus puissants d’intelligence artificielle, mais il intervient dans un paysage où les pratiques d’essai sont variées et les cadres méthodologiques absents.
Des laboratoires universitaires aux cabinets d’audit, en passant par des ONG et des start-up spécialisées, une pluralité d’acteurs propose aujourd’hui des exercices de « red‑teaming » ou d’évaluation comportementale. Les approches diffèrent fortement : protocoles, métriques, étendue des scénarios testés et conditions d’accès aux modèles (API limitée versus accès aux poids) varient selon les partenaires et les objectifs des évaluations.
Cette diversité complique la comparaison des résultats et la formulation de jugements clairs sur les risques réels. Sans référentiels partagés, des conclusions divergentes peuvent coexister pour un même modèle, rendant plus difficile l’élaboration de politiques publiques, la définition d’exigences techniques et la communication transparente autour des capacités et des limites de ces systèmes. La reproductibilité des tests et la définition précise des vecteurs de menace apparaissent comme des enjeux essentiels pour crédibiliser les évaluations.
L’ouverture aux tests externes crée néanmoins une opportunité : elle met en lumière la nécessité de dispositifs communs pour normaliser méthodes, périmètres et niveaux de divulgation. Pour que ces évaluations servent la confiance publique et l’efficacité réglementaire, il faudra favoriser des protocoles partagés, des conditions d’accès permettant la vérification indépendante et une coordination entre entreprises, chercheurs et autorités. Le développement de tels cadres déterminera à la fois la comparabilité des analyses et la capacité des décideurs à agir sur des bases factuelles.