Le rôle du responsable de la gouvernance et la structure de supervision
Une école a une direction, des enseignants et une personne responsable des objets perdus, et tout le monde sait qui décide quoi. Si personne n'est responsable, chacun attend que quelqu'un d'autre agisse. Un responsable de la gouvernance de l'IA veille à ce que chaque utilisation de l'IA ait une personne clairement responsable et un groupe clair qui peut dire oui ou non.
- Avant ce cours : AI Governance Basics (course 1.8.3) vous a donné la politique, l'inventaire et l'audit. Un responsable de la gouvernance les fait fonctionner toute l'année, dans de nombreuses équipes, avec des personnes responsables.
- La première des quatre fonctions du NIST AI Risk Management Framework est Gouverner (Govern). Le NIST a publié l'AI RMF 1.0 le 26 janvier 2023; il est volontaire. Le NIST a aussi publié un Generative AI Profile (NIST-AI-600-1) le 26 juillet 2024. La page du NIST indique que l'AI RMF 1.0 est en cours de révision; vérifiez donc la version actuelle.
- ISO/IEC 42001:2023 est une norme internationale pour un système de management de l'IA. Sa fiche dit qu'elle précise les exigences pour établir, mettre en oeuvre, maintenir et améliorer continuellement un système de management de l'IA dans une organisation de toute taille, avec des clauses sur le leadership (y compris une politique d'IA et des rôles attribués), l'évaluation des risques et des impacts, et l'audit interne et la revue de direction. Beaucoup d'organisations s'en servent comme liste de contrôle, même si elles ne cherchent jamais à obtenir un certificat. Le texte complet est vendu par l'ISO; lisez donc la publication officielle avant d'affirmer que vous la respectez.
- La responsabilité (accountability) signifie qu'une personne nommée peut répondre d'une décision. Un blâme dilué est le signe d'une gouvernance faible.
- Une structure de supervision simple pour une organisation petite ou moyenne :
| Rôle | Ce qu'il fait |
|---|---|
| Commanditaire de la direction | Est responsable de la politique d'IA au niveau de la direction; a le dernier mot sur les utilisations à risque élevé; donne le temps et le budget |
| Responsable de la gouvernance de l'IA (vous) | Dirige le processus, tient l'inventaire, fait rapport à la direction |
| Responsable de cas d'usage | Une personne nommée pour chaque utilisation de l'IA; répond des résultats et des contrôles |
| Groupe de révision | Un petit groupe (par exemple opérations, TI ou sécurité, vie privée ou juridique, et l'équipe concernée) qui révise les utilisations de niveau Élevé |
| Responsable de la vie privée ou avocat | Conseille sur la loi; consulté dans les cas listés à la leçon 7 |
| Personnel | Suit les règles et signale les problèmes |
- Les droits de décision désignent qui peut approuver quoi. Une règle simple : les utilisations de niveau Faible sont approuvées par le responsable de cas d'usage et consignées; celles de niveau Moyen, par le responsable de la gouvernance; celles de niveau Élevé, par le groupe de révision avec l'accord du commanditaire de la direction.
- Un tableau RACI (Responsible, Accountable, Consulted, Informed : exécutant, responsable final, consulté, informé) montre pour chaque tâche qui l'exécute, qui en répond, qui donne des conseils et qui est informé. Il ne devrait y avoir qu'une seule personne responsable finale (Accountable) par tâche.
- La gouvernance est proportionnée : un club de cinq personnes a besoin d'une version d'une page, un hôpital de beaucoup plus. Adaptez la structure au risque.
- Choisissez une organisation réelle ou imaginaire (par exemple une entreprise de 40 personnes).
- Copiez le tableau des rôles et écrivez un vrai nom ou un titre de poste à côté de chaque rôle. Ne laissez aucun rôle vide.
- Écrivez la règle de décision pour chaque niveau : qui approuve le Faible, le Moyen et l'Élevé.
- Faites un tableau RACI avec cinq tâches : approuver un nouvel outil, mener la révision trimestrielle, signaler un incident, former le personnel, mettre à jour la politique. Marquez une seule personne responsable finale (Accountable) par tâche.
- Écrivez le rythme de rencontre du groupe de révision (par exemple mensuel, et dans la semaine pour les demandes urgentes).
- Vérification : chaque tâche a exactement une personne responsable finale, et chaque utilisation de niveau Élevé a un chemin jusqu'au commanditaire de la direction.
Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.
Read the video script
[Host] "Si tout le monde est responsable, personne ne l'est."
[Screen: le tableau des rôles] "Nommez un commanditaire, un responsable, un propriétaire pour chaque utilisation et un petit groupe de révision."
[Text on screen: Une seule personne responsable finale par tâche] "Utilisez un tableau RACI, avec une personne responsable finale pour chaque tâche."
[Text on screen: Approbations Faible, Moyen, Élevé] "Décidez qui approuve chaque niveau de risque."
[Host] "Adaptez-le à votre taille, mais mettez des noms."
Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches.
ClaudeStuck? Copy a ready-made prompt for Claude
Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.
For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.
I'm learning "Responsable de la gouvernance de l'IA : supervision, incidents et responsabilité" on The Future Market. Lesson 1: "Le rôle du responsable de la gouvernance et la structure de supervision". What the lesson teaches: - Avant ce cours : AI Governance Basics (course 1.8.3) vous a donné la politique, l'inventaire et l'audit. Un responsable de la gouvernance les fait fonctionner toute l'année, dans de nombreuses équipes, avec des personnes responsables. - La première des quatre fonctions du NIST AI Risk Management Framework est Gouverner (Govern). Le NIST a publié l'AI RMF 1.0 le 26 janvier 2023; il est volontaire. Le NIST a aussi publié un Generative AI Profile (NIST-AI-600-1) le 26 juillet 2024. La page du NIST indique que l'AI RMF 1.0 est en cours de révision; vérifiez donc la version actuelle. - ISO/IEC 42001:2023 est une norme internationale pour un système de management de l'IA. Sa fiche dit qu'elle précise les exigences pour établir, mettre en oeuvre, maintenir et améliorer continuellement un système de management de l'IA dans une organisation de toute taille, avec des clauses sur le leadership (y compris une politique d'IA et des rôles attribués), l'évaluation des risques et des impacts, et l'audit interne et la revue de direction. Beaucoup d'organisations s'en servent comme liste de contrôle, même si elles ne cherchent jamais à obtenir un certificat. Le texte complet est vendu par l'ISO; lisez donc la publication officielle avant d'affirmer que vous la respectez. - La responsabilité (accountability) signifie qu'une personne nommée peut répondre d'une décision. Un blâme dilué est le signe d'une gouvernance faible. - Une structure de supervision simple pour une organisation petite ou moyenne : - Rôle - Ce qu'il fait - Commanditaire de la direction - Est responsable de la politique d'IA au niveau de la direction; a le dernier mot sur les utilisations à risque élevé; donne le temps et le budget The exercise I'm working on: Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches. I'm stuck. Please: 1. Explain the main idea in plain, simple words with one everyday example. 2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step. 3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Le rôle du responsable de la gouvernance et la structure de supervision" from the course "Responsable de la gouvernance de l'IA : supervision, incidents et responsabilité". Here's what the lesson says: Une école a une direction, des enseignants et une personne responsable des objets perdus, et tout le monde sait qui décide quoi. Si personne n'est responsable, chacun attend que quelqu'un d'autre agisse. Un responsable de la gouvernance de l'IA veille à ce que chaque utilisation de l'IA ait une personne clairement responsable et un groupe clair qui peut dire oui ou non. The activity: Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches. Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words. Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Sources
- NIST, AI Risk Management Framework: www.nist.gov/itl/ai-risk-management-framework
- AFNOR, ISO/IEC 42001:2023 listing: www.boutique.afnor.org/en-gb/standard/iso-iec-420012023/information-te
Concevoir le processus de supervision : le cycle de vie d'une utilisation de l'IA
This lesson is part of full access: every course and every level for one payment.
L'évaluation des fournisseurs
This lesson is part of full access: every course and every level for one payment.
La réponse aux incidents
This lesson is part of full access: every course and every level for one payment.
La formation du personnel et une culture du signalement
This lesson is part of full access: every course and every level for one payment.
Mesurer, auditer et faire rapport à la direction
This lesson is part of full access: every course and every level for one payment.
Travailler avec les avocats et les responsables de la vie privée, et diriger avec responsabilité
This lesson is part of full access: every course and every level for one payment.
Final project
This lesson is part of full access: every course and every level for one payment.
Quiz
Pourquoi chaque utilisation de l'IA devrait-elle avoir un seul responsable nommé?
Une personne nommée peut répondre des résultats et des contrôles; un blâme partagé veut dire que personne n'est responsable.
Qui devrait approuver une utilisation de niveau Élevé selon le modèle du cours?
Le groupe de révision, avec l'accord du commanditaire de la direction.
Nommez trois étapes du cycle de vie d'une utilisation de l'IA.
Par exemple demande, triage, approbation, lancement, surveillance, révision, retrait.
Pourquoi garder la porte d'entrée facile pour les demandes de niveau Faible?
Si elle est trop difficile, les gens utilisent l'IA en cachette (IA fantôme).
Pourquoi préférer des documents à la page de marketing d'un fournisseur?
Des documents comme les conditions, les pages de confidentialité et les rapports de sécurité sont des preuves; le marketing n'en est pas.
Nommez deux questions à poser à un fournisseur au sujet des données.
Par exemple si les données servent à entraîner des modèles, combien de temps elles sont conservées, où elles sont stockées.
Qu'est-ce qu'un quasi-incident et pourquoi le consigner?
Un problème repéré avant qu'il cause un tort; c'est une leçon gratuite.
Quelles sont les six étapes de la routine d'incident?
Détecter et signaler, contenir, évaluer, aviser, corriger et rétablir, apprendre.
Pourquoi faut-il conserver un registre d'une atteinte même si elle n'a pas été signalée?
Les lois de nombreux pays attendent des registres, et ils montrent comment vous avez décidé; conservez-les aussi longtemps que la loi de votre pays l'exige.
Pourquoi un dirigeant devrait-il remercier les gens qui signalent des problèmes?
Les gens cachent leurs erreurs quand ils craignent le blâme, et les problèmes cachés ne peuvent pas être corrigés.
Pourquoi un plus grand nombre de quasi-incidents signalés peut-il être une bonne nouvelle?
Cela peut montrer que les gens se sentent en sécurité pour signaler.
Quand un responsable de la gouvernance devrait-il appeler un avocat ou un responsable de la vie privée?
Par exemple pour une fuite, une plainte, des décisions concernant des personnes, des contrats de fournisseurs, une loi incertaine, des domaines réglementés.
Final exam
This lesson is part of full access: every course and every level for one payment.
Certificate
This lesson is part of full access: every course and every level for one payment.