Premetric.ai a lancé une plateforme de gouvernance de l'IA pré-déploiement conçue pour aider les organisations à évaluer les risques, les impacts et la nécessité des systèmes d'intelligence artificielle avant qu'ils ne soient développés ou déployés. Cette annonce intervient alors que le contrôle réglementaire et sociétal de l'IA s'intensifie à l'échelle mondiale, positionnant Premetric à ce qu'elle décrit comme une couche critique mais sous-développée du cycle de vie de l'IA : la prise de décision en amont.
La gouvernance de l'IA pré-déploiement fait référence à l'évaluation structurée de la pertinence de construire ou de déployer un système d'IA en fonction de ses risques potentiels, de son impact sociétal et de son alignement avec les normes organisationnelles et réglementaires. Alors que la plupart des approches de gouvernance de l'IA existantes se concentrent sur la surveillance des systèmes après leur déploiement, Premetric introduit une couche d'intelligence décisionnelle qui fonctionne avant que le code ne soit écrit ou que les modèles ne soient entraînés. « La gouvernance de l'IA a été largement réactive », a déclaré Dost Mushtaq, PDG de Premetric.ai. « Au moment où la plupart des contrôles sont appliqués, les décisions les plus risquées ont déjà été prises. Premetric existe pour déplacer la gouvernance en amont, au point où les organisations décident si un système d'IA devrait exister ou non. »
La plateforme Premetric permet aux organisations de mener des évaluations des risques structurées alignées sur les normes mondiales émergentes, notamment l'AI Act de l'UE et le cadre de gestion des risques de l'IA du NIST. Elle introduit des flux de travail d'évaluation en plusieurs étapes qui classent les cas d'utilisation de l'IA par niveau de risque, évaluent les préjudices potentiels et génèrent des enregistrements de décision vérifiables pour examen interne et réglementaire. Ces flux de travail sont conçus pour s'intégrer aux pipelines existants de produits et de conformité, permettant à la gouvernance de fonctionner comme un mécanisme de contrôle plutôt que comme une couche d'audit rétrospective. Plus de détails sur la méthodologie de la plateforme sont disponibles sur https://premetric.ai/platform.
Selon les premiers utilisateurs dans les services financiers et la santé, la plateforme comble un écart croissant entre les attentes réglementaires et la réalité opérationnelle. « Nous avons eu des processus robustes de validation des modèles pendant des années, mais rien qui nous aide à décider si un cas d'utilisation devrait être poursuivi en premier lieu », a déclaré le Dr Elena Markovic, ancienne responsable de la gouvernance de l'IA dans une grande banque européenne et conseillère de Premetric. « Premetric opérationnalise cette couche manquante d'une manière qui correspond à la façon dont les régulateurs commencent à penser le risque de l'IA. »
Le lancement intervient dans un contexte d'élan mondial croissant vers une réglementation formelle de l'IA. Des cadres tels que l'AI Act de l'UE et les principes de l'OCDE mettent l'accent sur la classification des risques, la responsabilité et la transparence, mais laissent les détails de mise en œuvre aux organisations. Premetric traduit ces exigences de haut niveau en processus décisionnels concrets, permettant aux entreprises de démontrer non seulement que leurs systèmes d'IA sont conformes, mais qu'ils ont été conçus de manière responsable.
Les analystes du secteur ont commencé à identifier la gouvernance pré-déploiement comme une catégorie distincte et nécessaire dans le paysage plus large de la gouvernance de l'IA. « Nous assistons à l'émergence d'une nouvelle couche de contrôle axée sur les décisions de poursuite/arrêt pour les systèmes d'IA », a déclaré Marcus Chen, analyste senior à l'Institute for Responsible Technology Policy. « Les fournisseurs qui peuvent opérationnaliser ces décisions de manière structurée et vérifiable joueront un rôle central dans l'adoption de l'IA par les entreprises. »
Premetric.ai sert les organisations opérant dans des domaines à haut risque où le risque lié à l'IA est significatif, notamment la finance, la santé et les applications du secteur public. Les services de l'entreprise sont disponibles dès aujourd'hui pour un déploiement en entreprise. Pour plus d'informations, visitez https://www.premetric.ai.
