Le Special Competitive Studies Project (SCSP), une initiative non partisane et à but non lucratif visant à renforcer la compétitivité à long terme des États-Unis en matière d'IA, a émis un avertissement sévère concernant l'évolution rapide de l'intelligence artificielle (IA) agentique. Contrairement aux systèmes d'IA conventionnels qui génèrent des réponses en fonction de requêtes, l'IA agentique peut définir des objectifs de manière indépendante, créer des plans et exécuter des tâches en plusieurs étapes avec une supervision humaine minimale. Selon les experts du SCSP, « l'IA commence à aider à construire une meilleure IA », créant potentiellement une boucle d'auto-accélération où le développement des capacités de l'IA s'accumule bien au-delà des projections actuelles.
Ylli Bajraktari, président du SCSP, a souligné les implications sécuritaires dans une récente newsletter sur l'IA agentique. « Un agent capable de naviguer dans des systèmes bureaucratiques complexes, d'identifier des vulnérabilités exploitables et d'agir sans laisser de piste d'attribution claire représente une expansion qualitative de la capacité adverse », a-t-il déclaré. Bajraktari a averti que les adversaires sont susceptibles de déployer des systèmes d'IA agentique dans les domaines où la gouvernance est la plus faible, les utilisant pour la coercition, l'espionnage et les opérations d'influence.
Contrairement aux hypothèses politiques courantes, une gouvernance efficace de l'IA agentique ne se concentre pas sur le modèle d'IA lui-même mais sur « l'échafaudage » construit autour de lui, ont expliqué les experts du SCSP. Cet échafaudage comprend des connecteurs qui relient le modèle à l'infrastructure du monde réel, comme les courriels, les systèmes de réservation et les plateformes financières ; une mémoire qui permet au système d'apprendre et de s'adapter au fil du temps ; des capacités de planification qui divisent les grands objectifs en tâches plus petites ; des structures d'autorisation qui définissent l'accès au système ; et des garde-fous qui déterminent ce que le système refusera de faire, comme des limites de dépenses ou des approbations humaines obligatoires.
La responsabilité reste un défi critique, la gouvernance étant insuffisante dans trois domaines clés. Premièrement, la responsabilité est souvent intraçable lorsque l'IA agit de manière autonome – il n'y a pas de moyen clair de déterminer qui a autorisé quoi. Deuxièmement, les cadres actuels évaluent généralement seulement si une tâche a été accomplie, pas si elle a été effectuée en toute sécurité ou a causé un préjudice. Troisièmement, l'IA agentique construit des profils personnels en accumulant des données sensibles sur les modèles de comportement, les préférences et les inférences, dépassant potentiellement ce que les individus souhaitent partager.
Malgré ces préoccupations, le SCSP souligne que l'IA agentique n'est pas une technologie à craindre ou à reporter. « Les institutions qui priorisent la compréhension, la formation et la gouvernance de l'IA agentique détermineront leur propre position concurrentielle et impacteront également le caractère de l'environnement dans lequel l'IA agentique opère à l'échelle mondiale », ont noté les experts. Pour les États-Unis, une gouvernance proactive est essentielle pour atténuer les risques et exploiter le potentiel de la technologie. Plus d'informations sont disponibles sur scsp.ai.
