La maison mère de Anthropic a annoncé jeudi avoir stoppé plusieurs opérations de surveillance visant des dissidents et des minorités ethniques qui utilisaient son assistant d’intelligence artificielle, Claude. L’entreprise a fait état d’autres usages malveillants détectés, citant notamment des cas liés à l’espionnage, à des tentatives d’aide à la fabrication d’armes et à des escroqueries.
La communication d’Anthropic intervient dans un contexte où la capacité des systèmes d’intelligence artificielle à faciliter des activités illicites suscite des interrogations croissantes parmi les autorités, les chercheurs et les organisations de défense des droits. Les acteurs du secteur multiplient les annonces de contrôles et d’améliorations pour limiter les détournements de leurs modèles.
Spécialistes et observateurs considèrent que l’arrêt de ces opérations soulève des questions opérationnelles et réglementaires sur la mise en œuvre de garde-fous techniques et humains, ainsi que sur la responsabilité des fournisseurs de technologies. Le cas souligne également la difficulté à détecter et à prévenir des usages détournés lorsque des systèmes sont largement accessibles et intégrés à des services tiers.
Anthropic n’a pas publié de rapport détaillé accompagnant son annonce, mais son intervention alimente les appels à davantage de transparence et de coopération entre entreprises, autorités et acteurs de la société civile pour prévenir les préjudices. Le suivi de ces mesures, ainsi que les enquêtes éventuelles sur les opérations stoppées, seront scrutés par les acteurs concernés et pourraient influer sur les discussions en cours concernant la régulation des technologies d’intelligence artificielle.
