Ce n’est un secret pour personne que pour utiliser l’IA de manière responsable, les organisations doivent trouver un équilibre entre les risques et les avantages et adapter leur réponse en fonction du niveau de risque associé à chaque projet. 

Mais comment être sûr des situations où l’IA est utilisée dans votre organisation ? Comment savoir quel niveau de risque est associé à chacun de ces projets ? La création d’un inventaire de tous les projets d’IA est l’une des premières étapes, et la plus critique, de l’établissement d’un programme de gouvernance de l’IA.

Qu’est-ce qu’un inventaire d’IA ?

Un inventaire d’IA est un emplacement centralisé qui permet de comprendre tous les endroits où la technologie d’IA est utilisée dans l’entreprise. Il donne un panorama à jour des projets, modèles et bases de données associés à l’IA et à la technologie d’apprentissage automatique (ML).

En premier lieu, la création de l’inventaire des modèles d’IA offre une meilleure visibilité, non seulement sur les endroits où l’IA est utilisée, mais également sur le niveau de risque associé à chaque projet. En un coup d’œil, vous savez si vous avez trop de projets à risque élevé ou inacceptable ou si, au contraire, la plupart de vos projets sont à risque faible.

Comment l’inventaire d’IA aide votre entreprise

Avoir une visibilité globale sur vos projets d’IA est déjà un avantage considérable de l’inventaire d’IA pour votre entreprise, mais ce n’est pas le seul. Voici 4 autres impacts possibles de l’inventaire d’IA pour votre organisation :

Augmentation de la maturité du programme de gouvernance de l’IA

Beaucoup d’entreprises commencent leurs programmes de gouvernance de l’IA, puis s’arrêtent en chemin devant l’ampleur de la tâche, particulièrement dans celles où l’IA est largement utilisée. Mais cette phase précoce est en fait le moment idéal pour créer un inventaire d’IA. Vous établirez ainsi des bases solides pour un programme de gouvernance robuste.

Navigation dans la diversité des risques

Différentes lois, telle que le règlement de l’UE sur l’IA, mettent toutes en avant différents niveaux de risque.  Les définitions et les contextes de ses niveaux  sont encore en cours de discussion, mais il n’en demeure pas moins que des obligations associées à chacun d'eux doivent être respectées. Comprendre quels sont ces niveaux et où ils se trouvent dans votre organisation vous aidera à respecter ces obligations et à vous protéger contre les risques élevés et inacceptables.

Gestion des coûts

Par ailleurs, la création de votre inventaire d’IA dès le démarrage de votre programme de gouvernance est en réalité un outil de gestion des coûts. En évaluant rapidement les niveaux de risque, vous éviterez de dépenser des ressources sur des projets qui se révèlent présenter un risque élevé ou inacceptable, tel qu’un logiciel de reconnaissance faciale par exemple.

Imaginons qu’une entreprise envisage d’utiliser un tel logiciel pour vérifier la présence de ses employés au bureau. Elle devra consacrer beaucoup de temps et d’argent à développer et à mettre en œuvre ce programme. Or la technologie de reconnaissance faciale est considérée comme étant un risque inacceptable en vertu du règlement de l’UE sur l’IA. L’entreprise aura alors dépensé ses ressources dans un programme qui ne peut finalement pas être utilisé.

Innovation favorisée

Dans de nombreuses organisations, les membres de l’équipe et les parties prenantes sont enthousiastes quant au potentiel de l’IA et proposent de nouveaux cas d’usage possibles pour les évaluer et les faire valider. Tous ces cas d’usage ne sont pas toujours validés, mais beaucoup d’entre eux peuvent l’être. Un processus d’évaluation rationalisé permet à votre équipe de faire avancer le développement ou l’expérimentation pour l’utilisation de l’IA sans inonder votre équipe de conformité ou sans avoir à attendre sa réponse.

Comment mettre en œuvre la cotation des risques pour créer votre inventaire d’IA

La création d’un inventaire, et d’un processus rationalisé pour la validation, est une étape préliminaire essentielle pour votre programme de gouvernance de l’IA. Mais pour la plupart des équipes, examiner et valider manuellement chacun des cas d’usage proposés pour l’IA n’est tout simplement pas réaliste.

Plutôt que d’identifier manuellement tous les projets où l’IA est utilisée, d’évaluer les risques pour chaque projet et de valider ou de rejeter leur utilisation, la cotation des risques peut être effectuée automatiquement. Le nouveau modèle d’évaluation de prise en compte de l’IA de OneTrust permet de rationaliser et d’automatiser ce processus. Il peut être déployé dans un portail libre-service ou intégré dans des outils de gestion de projet existants, tels que Jira.

Une fois le cas d’usage défini, OneTrust attribue à chaque projet une cote de risque et lance des workflows automatiques, par exemple pour automatiquement valider les projets à faible risque et rejeter ceux qui présentent un risque inacceptable. Les organisations disposant de programmes de risque établis peuvent personnaliser la cotation des risques, les niveaux et les seuils associés pour s'aligner sur leurs référentiels existants. Ainsi, votre équipe de conformité se rend disponible pour examiner les différents cas et le reste de votre organisation peut continuer à utiliser l’IA dans ses workflows.

Pour voir ce modèle en action et en savoir plus sur la manière dont OneTrust peut vous aider à développer votre programme de gouvernance de l’IA, réservez une démonstration dès aujourd’hui.