Sécurité de l'IA : ISO 42001 ou NIST AI RMF, par où commencer

Votre rendez-vous du jeudi · Série IA

Les épisodes précédents ont posé les fondations : l'inventaire des usages, qui en répond, les risques propres aux modèles de langage, l'IA de vos fournisseurs et l'IA utilisée contre vous. Depuis, une question revient dans presque chaque échange : « Et maintenant, on prend ISO 42001 ou le NIST AI RMF ? »

C'est une bonne question, posée trop tôt. La première question n'est pas « lequel ». C'est : que devez-vous prouver, et à qui ?

Pourquoi « lequel choisir » arrive trop tôt

Choisir un référentiel avant de savoir ce qu'on doit démontrer, c'est choisir le format d'un rapport avant d'avoir les données. Les deux textes ne font pas le même travail. L'un vous aide à trouver le risque lié à l'IA et à raisonner dessus. L'autre vous aide à démontrer, à un client, à un auditeur ou à un donneur d'ordre, que ce risque est géré dans un système qui tient dans le temps.

Les confondre produit deux échecs classiques. Un projet de certification lancé sans inventaire, qui documente des processus qui n'existent pas encore. Ou une analyse de risque soignée qui ne devient jamais une preuve, parce que personne n'a prévu comment la tenir à jour.

NIST AI RMF : comprendre et traiter le risque

Le NIST a publié son cadre de gestion des risques de l'IA, l'AI RMF 1.0, le 26 janvier 2023. Il est d'usage volontaire : pas de certification, pas d'auditeur, pas de sceau. C'est une méthode.

Son cœur tient en quatre fonctions :

• Gouverner (Govern) : installer une culture de gestion du risque dans l'organisation qui conçoit, déploie, évalue ou achète des systèmes d'IA. C'est la fonction transversale, celle qui rend les trois autres possibles.
• Cartographier (Map) : établir le contexte de chaque système. À quoi il sert, qui il touche, ce qui peut mal tourner.
• Mesurer (Measure) : analyser, évaluer et suivre ces risques, avec des méthodes quantitatives, qualitatives ou mixtes.
• Gérer (Manage) : affecter des ressources aux risques cartographiés et mesurés, et prévoir la réponse et le rétablissement.

Le 26 juillet 2024, le NIST y a ajouté un profil consacré à l'IA générative, le NIST AI 600-1, qui décline ces fonctions pour les modèles de langage et les outils génératifs, ceux-là mêmes que l'épisode sur les risques propres aux grands modèles de langage passait en revue. Le NIST indique aussi que le cadre est en cours de révision : raison de plus pour s'en servir comme d'une méthode, pas comme d'une liste figée.

Ce que ça change : l'AI RMF sert dès le premier jour, y compris pour une organisation de 80 personnes, parce qu'il ne demande rien d'autre qu'une manière ordonnée de poser les questions. Sa limite est symétrique : il ne prouve rien à personne.

ISO/IEC 42001 : prouver que le risque est géré

ISO et IEC ont publié ISO/IEC 42001 le 18 décembre 2023. C'est la première norme de système de management de l'IA. Elle fixe les exigences pour établir, mettre en œuvre, tenir à jour et améliorer en continu un tel système, et s'applique à toute organisation qui fournit ou utilise des produits ou des services fondés sur l'IA, quelle que soit sa taille. Contrairement à l'AI RMF, elle se certifie, par un organisme indépendant.

Le point qui change tout pour une organisation déjà engagée en sécurité de l'information : ISO 42001 suit la même structure harmonisée que les autres normes de système de management, dont ISO/IEC 27001. Mêmes clauses, mêmes termes de base, même cycle : contexte, leadership, planification, soutien, fonctionnement, évaluation de la performance, amélioration. Si vous faites déjà tourner un système de management de la sécurité de l'information certifié ISO 27001, votre politique, votre appréciation des risques, votre audit interne et votre revue de direction s'étendent. Ils ne repartent pas de zéro.

Ce que ça change : une certification est une preuve, et une preuve a un coût. Elle se justifie quand quelqu'un la demande : un client dans un appel d'offres, un donneur d'ordre dans une clause de contrat, un régulateur. Avant cela, elle documente surtout votre bonne volonté.

L'arbre de décision

| Votre besoin | Commencez par | Pourquoi | | ----------------------------------------------------------------------------- | ---------------------------------------------- | ------------------------------------------------------------------------ | | Comprendre où l'IA crée du risque chez vous | NIST AI RMF | Une méthode gratuite, applicable tout de suite, sans audit | | Prouver à un client, un auditeur ou un donneur d'ordre que l'IA est gouvernée | ISO/IEC 42001 | La seule des deux à produire un certificat | | Les deux | L'AI RMF pour le fond, ISO 42001 pour la forme | La cartographie nourrit le système de management, qui la rend vérifiable |

Pour la plupart des organisations, la bonne séquence est la troisième : l'AI RMF pour faire le travail, puis ISO 42001 le jour où ce travail doit être démontré. La certification arrive alors sur un terrain préparé, au lieu de servir de prétexte pour le préparer.

Les 30 premiers jours

1. Semaine 1 : repartir de l'inventaire. Le registre de l'épisode sur le shadow AI est votre point d'entrée. Sans lui, n'importe quel référentiel devient de la paperasse. S'il a vieilli depuis la fin août, mettez-le à jour avant toute autre chose.
2. Semaine 2 : confirmer les propriétaires. Les rôles de l'épisode sur la gouvernance correspondent à la fonction Gouverner de l'AI RMF et aux clauses de leadership d'ISO 42001. Un usage sans propriétaire nommé n'entre pas dans la suite.
3. Semaines 3 et 4 : cartographier trois systèmes. Pas tous, trois. Celui qui traite des renseignements personnels, celui qui influence une décision sur une personne (embauche, crédit, accès à un service), et celui qu'un fournisseur a ajouté sans vous le demander, comme dans l'épisode sur vos fournisseurs. Pour chacun, la fonction Cartographier : à quoi il sert, qui il touche, ce qui peut mal tourner, qui l'a approuvé.

À la fin du mois, vous avez de quoi décider si une certification se justifie, et une base documentée qu'un auditeur reconnaîtra le jour où elle se justifiera.

Le test de la semaine

Prenez votre registre des usages de l'IA et répondez, pour chaque système en production, à trois questions :

1. Qui en est propriétaire, nommément ?
2. Qui a approuvé sa mise en service, et quand ?
3. Quelles données y entrent, et lesquelles en sortent ?

Si une seule ligne reste vide, vous n'êtes prêt pour aucun des deux référentiels. Ce n'est pas un échec : c'est votre plan des 30 prochains jours.

Ce que vous devriez avoir dans un mois

Un registre à jour, un propriétaire par système, trois cartographies datées et une décision écrite : certifier ISO 42001 maintenant, plus tard ou pas du tout, avec la raison. Si un client ou un donneur d'ordre vous demande déjà une preuve, cette décision est prise pour vous ; il ne reste qu'à choisir la date.

Pour situer votre organisation, ISO 42001 s'évalue directement dans Forta Conformité, et le NIST AI RMF fait partie des 40+ référentiels rattachés au même socle de contrôles : un contrôle validé une fois compte pour tous ceux qui le demandent.

Jeudi prochain : sécuriser les agents IA. Permissions, supervision, et journalisation de ce qu'ils font seuls : ce qui change quand l'IA ne se contente plus de répondre, mais agit.

Sources : NIST, AI Risk Management Framework · NIST AIRC, les quatre fonctions du cœur de l'AI RMF · IEC, ISO/IEC 42001:2023 · ISO, ISO/IEC 42001 expliquée