Le gouvernement australien a payé au consultant Deloitte 440 000 dollars australiens (290 000 dollars) pour un rapport sur l’utilisation de sanctions automatisées dans le système de protection sociale australien. La version finale du rapport a été confiée au ministère de l’Emploi et des Relations de travail, mais l’histoire est loin d’être terminée.
Le professeur de droit Chris Rudge de la Sydney Law School a lu le rapport publié et a immédiatement su qu’il y avait un problème : il dit que le rapport était « plein de références fabriquées » et il a catalogué une vingtaine d’erreurs. Le plus évident était une citation adressée à une collègue, Lisa Burton Crawford, qui semblait suspecte. Rudge a déclaré: « J’ai immédiatement su qu’il s’agissait soit d’une hallucination de l’IA, soit du secret le mieux gardé au monde, car je n’avais jamais entendu parler du livre et cela semblait absurde. »
Mais il y avait d’autres problèmes, notamment une jurisprudence inventée.
« Ils ont totalement mal cité une affaire judiciaire, puis ont inventé une citation d’un juge et j’ai pensé, attendez : c’est en fait un peu plus grand que l’ego des universitaires. Il s’agit de déformer la loi au gouvernement australien dans un rapport sur lequel ils s’appuient. J’ai donc pensé qu’il était important de défendre la diligence », a déclaré Rudge.
Deloitte a réédité le rapport, affirmant que les recommandations et le « fond » du rapport restent inchangés, mais qu’ils « ont confirmé que certaines notes de bas de page et références étaient incorrectes ». Et la nouvelle version du rapport a ajouté une divulgation remarquable : Azure OpenAI a été utilisé.
Et ils vont rembourser une partie de l’argent payé par le gouvernement australien, affirmant que « le problème a été résolu directement avec le client ». Mais cela ne suffit pas pour certains. La sénatrice australienne Barbara Pocock souhaite un remboursement complet, soulignant que Deloitte « a abusé de l’IA et l’a utilisée de manière très inappropriée : il a mal cité un juge, utilisé des références qui sont inexistantes ». Pocock a poursuivi: « Je veux dire, le genre de choses pour lesquelles un étudiant universitaire de première année aurait de gros problèmes. »
Kathryn Rubino est rédactrice en chef chez Above the Law, animatrice du podcast The Jabot et co-animatrice de Thinking Like A Lawyer. Les pronostiqueurs AtL sont les meilleurs, alors connectez-vous avec elle. N’hésitez pas à lui envoyer des conseils, des questions ou des commentaires par e-mail et à la suivre sur Twitter @ Kathryn1 ou Mastodon @[email protected].