L’armée a déployé un espace de travail génératif de l’IA où les utilisateurs peuvent appliquer des modèles de langue importants aux tâches quotidiennes et stimuler la productivité. Mais l’utilisation d’outils d’IA nécessite beaucoup d’alimentation et de stockage de calcul. Le service a donc également travaillé pour rationaliser la façon dont il gère les services et les contrats cloud.
«Nous avons travaillé pour apporter quelque chose que nous appelons l’espace de travail LLM Enterprise LLM, c’est ainsi que nous examinons l’utilisation de LLM de manière sûre à la [Impact Level 5] Pour nos combattants »et dans les opérations quotidiennes de bureau, Gabriele Chiulli, le chef de la technologie de l’agence de gestion du cloud d’entreprise de l’armée, a déclaré à Defense One.
Par exemple, les LLM ont été utilisées pour déchirer la tâche fastidieuse de reclasser les descriptions du personnel, qui comprend la définition et l’alignement des tâches, l’expérience et les antécédents.
L’armée a pu formuler environ 300 000 descriptions de personnel en une semaine à l’aide de LLMS, a déclaré Chiulli. Il faudrait environ 10 minutes à un humain pour examiner chaque description, ce qui représenterait environ 50 000 heures ou 5,7 ans de travail 24h / 24.
L’année dernière, l’armée a présenté des plans pour un programme de pilote d’IA génératif. Mais le service avait déjà noté un pic des coûts de cloud computing car davantage de personnes utilisaient des outils et services d’IA.
Par exemple, un commandement de l’armée a été chargé d’analyser un problème de problème avec des données au niveau national dans un délai de 48 heures. Ils ont utilisé une IA générative pour terminer la tâche et cela a abouti à une grande facture de cloud computing et a alerté le service sur la nécessité pour les «garde-corps» de garder les coûts en échec, ont déclaré aux journalistes les journalistes plus tôt cette année.
“La façon dont nous contrôlons les coûts est vraiment importante. Parce que ce que nous ne voulons certainement pas nous retrouver avec un projet de loi de calcul massif”, a déclaré Jennifer Swanson, secrétaire adjointe adjointe de l’Armée de données, d’ingénierie et de logiciels.
Dans cet esprit de réduction des coûts, l’armée simplifie ses contrats de cloud en consolidant les services effectués par le même fournisseur sur le même contrat. Le service a attribué à Oracle «une ordonnance de tâche de prix fixée par l’entreprise via le contrat conjoint de la capacité de guerre des combats du Département de la Défense (DOD) pour fournir à l’agence de gestion du cloud d’entreprise (ECMA) de l’armée américaine (ECMA) des services de calcul cloud et de stockage», selon un communiqué de presse du 15 avril.
Sans tout sur JWCC, «ce serait une cheville carrée dans un trou rond pour prendre un produit Oracle et l’exécuter dans un nuage différent. Maintenant, il fonctionne de manière transparente, beaucoup plus soutenue, beaucoup plus sûre lorsque vous dirigez Oracle dans Oracle, ce que nous pouvons faire grâce au contrat JWCC», a déclaré Kim Lynch, vice-président exécutif d’Oracle pour ses activités de défense et d’intelligence, a déclaré à Defense One.
Cette décision vise à rationaliser la gestion du cloud, à améliorer la sécurité et à réduire les coûts – dans certains cas jusqu’à 50%, a déclaré Chiulli.
Par exemple, le projet de loi d’un programme a été réduit en deux.
«Nous parlons [about] Quelque chose qui était de 1 million de dollars par mois est maintenant comme 600 000 $ par mois du point de vue des finances en raison de certains des changements que nous avons apportés », a-t-il déclaré.
“Si nous avons trois contrats distincts … chacun de ces contrats a comme une ou deux personnes qui doivent le gérer – tous ces différents processus back-end”, a-t-il déclaré. “Maintenant, nous n’avons qu’à avoir une équipe de personnes d’une équipe pour gérer ce genre de choses. Il s’agissait donc vraiment de devenir très efficace du point de vue du personnel aussi.”
