THE FUTURE MARKETACADEMY
Your classroomRoom 01 · AI Lab
School of AI

Responsable de la gouvernance de l'IA : supervision, incidents et responsabilité

Step 7 of 7 in AI Lab

Next in your path: 1.2.4 Prompt Systems: production-grade prompt libraries

What you'll be able to do
  • Concevoir une structure de supervision avec des rôles nommés, des droits de décision et un groupe de révision.
  • Faire passer chaque utilisation de l'IA par un même cycle de vie : demande, niveau de risque, approbation, surveillance, révision et retrait.
  • Évaluer un fournisseur d'IA avec une liste de questions claire, des preuves et des points de contrat.
  • Rédiger et répéter un plan de réponse aux incidents d'IA avec des niveaux de gravité.
  • Former le personnel selon son rôle et bâtir une culture où les gens signalent les problèmes tôt.
  • Mesurer, auditer et présenter la gouvernance de l'IA à la direction.
  • Savoir quand faire appel à un avocat ou à un responsable de la vie privée, et comment les informer.

Avant ce cours : AI Governance Basics : politiques, audits et conformité (course 1.8.3), qui s'appuie sur L'IA au travail et ses risques (course 1.8.2) et Sécurité, vie privée et éthique de l'IA pour les utilisateurs de tous les jours (course 1.8). Vous connaissez déjà les quatre fonctions (Gouverner, Cartographier, Mesurer, Gérer), les dix principes équitables de traitement de l'information, la différence entre une loi, un projet de loi et un code volontaire, une politique d'utilisation de l'IA en neuf sections, un inventaire à trois niveaux, un audit de cas d'usage en huit questions et le système de dossiers en six chemises. Ce cours passe de la rédaction de la politique à la direction de tout le système et des personnes qui en font partie. À des fins éducatives seulement; ce n'est pas un avis juridique. Les lois changent, et une vraie question juridique relève d'un responsable de la vie privée ou d'un avocat.

Words in this course 54Open the Vocabulary Hall
01

Le rôle du responsable de la gouvernance et la structure de supervision

In simple words

Une école a une direction, des enseignants et une personne responsable des objets perdus, et tout le monde sait qui décide quoi. Si personne n'est responsable, chacun attend que quelqu'un d'autre agisse. Un responsable de la gouvernance de l'IA veille à ce que chaque utilisation de l'IA ait une personne clairement responsable et un groupe clair qui peut dire oui ou non.

Key facts
  • Avant ce cours : AI Governance Basics (course 1.8.3) vous a donné la politique, l'inventaire et l'audit. Un responsable de la gouvernance les fait fonctionner toute l'année, dans de nombreuses équipes, avec des personnes responsables.
  • La première des quatre fonctions du NIST AI Risk Management Framework est Gouverner (Govern). Le NIST a publié l'AI RMF 1.0 le 26 janvier 2023; il est volontaire. Le NIST a aussi publié un Generative AI Profile (NIST-AI-600-1) le 26 juillet 2024. La page du NIST indique que l'AI RMF 1.0 est en cours de révision; vérifiez donc la version actuelle.
  • ISO/IEC 42001:2023 est une norme internationale pour un système de management de l'IA. Sa fiche dit qu'elle précise les exigences pour établir, mettre en oeuvre, maintenir et améliorer continuellement un système de management de l'IA dans une organisation de toute taille, avec des clauses sur le leadership (y compris une politique d'IA et des rôles attribués), l'évaluation des risques et des impacts, et l'audit interne et la revue de direction. Beaucoup d'organisations s'en servent comme liste de contrôle, même si elles ne cherchent jamais à obtenir un certificat. Le texte complet est vendu par l'ISO; lisez donc la publication officielle avant d'affirmer que vous la respectez.
  • La responsabilité (accountability) signifie qu'une personne nommée peut répondre d'une décision. Un blâme dilué est le signe d'une gouvernance faible.
  • Une structure de supervision simple pour une organisation petite ou moyenne :
RôleCe qu'il fait
Commanditaire de la directionEst responsable de la politique d'IA au niveau de la direction; a le dernier mot sur les utilisations à risque élevé; donne le temps et le budget
Responsable de la gouvernance de l'IA (vous)Dirige le processus, tient l'inventaire, fait rapport à la direction
Responsable de cas d'usageUne personne nommée pour chaque utilisation de l'IA; répond des résultats et des contrôles
Groupe de révisionUn petit groupe (par exemple opérations, TI ou sécurité, vie privée ou juridique, et l'équipe concernée) qui révise les utilisations de niveau Élevé
Responsable de la vie privée ou avocatConseille sur la loi; consulté dans les cas listés à la leçon 7
PersonnelSuit les règles et signale les problèmes
  • Les droits de décision désignent qui peut approuver quoi. Une règle simple : les utilisations de niveau Faible sont approuvées par le responsable de cas d'usage et consignées; celles de niveau Moyen, par le responsable de la gouvernance; celles de niveau Élevé, par le groupe de révision avec l'accord du commanditaire de la direction.
  • Un tableau RACI (Responsible, Accountable, Consulted, Informed : exécutant, responsable final, consulté, informé) montre pour chaque tâche qui l'exécute, qui en répond, qui donne des conseils et qui est informé. Il ne devrait y avoir qu'une seule personne responsable finale (Accountable) par tâche.
  • La gouvernance est proportionnée : un club de cinq personnes a besoin d'une version d'une page, un hôpital de beaucoup plus. Adaptez la structure au risque.
Step by step
  1. Choisissez une organisation réelle ou imaginaire (par exemple une entreprise de 40 personnes).
  2. Copiez le tableau des rôles et écrivez un vrai nom ou un titre de poste à côté de chaque rôle. Ne laissez aucun rôle vide.
  3. Écrivez la règle de décision pour chaque niveau : qui approuve le Faible, le Moyen et l'Élevé.
  4. Faites un tableau RACI avec cinq tâches : approuver un nouvel outil, mener la révision trimestrielle, signaler un incident, former le personnel, mettre à jour la politique. Marquez une seule personne responsable finale (Accountable) par tâche.
  5. Écrivez le rythme de rencontre du groupe de révision (par exemple mensuel, et dans la semaine pour les demandes urgentes).
  6. Vérification : chaque tâche a exactement une personne responsable finale, et chaque utilisation de niveau Élevé a un chemin jusqu'au commanditaire de la direction.
Watch on YouTube
NIST AI Risk Management Framework (RMF): a practical guideStandarity · YouTube · youtube.com
CertMike explains the NIST AI Risk Management FrameworkMike Chapple · YouTube · youtube.com

Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.

LESSON 01Le rôle du responsable de la gouvernance et la structure de supervision
LESSON 01 / ANIMATED LESSON / ENGLISH VOICE00:00 / 01:00
Read the video script
[Host] "Si tout le monde est responsable, personne ne l'est."
[Screen: le tableau des rôles] "Nommez un commanditaire, un responsable, un propriétaire pour chaque utilisation et un petit groupe de révision."
[Text on screen: Une seule personne responsable finale par tâche] "Utilisez un tableau RACI, avec une personne responsable finale pour chaque tâche."
[Text on screen: Approbations Faible, Moyen, Élevé] "Décidez qui approuve chaque niveau de risque."
[Host] "Adaptez-le à votre taille, mais mettez des noms."
Try it now

Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches.

ClaudeStuck? Copy a ready-made prompt for Claude

Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.

For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.

I'm learning "Responsable de la gouvernance de l'IA : supervision, incidents et responsabilité" on The Future Market. Lesson 1: "Le rôle du responsable de la gouvernance et la structure de supervision".

What the lesson teaches:
- Avant ce cours : AI Governance Basics (course 1.8.3) vous a donné la politique, l'inventaire et l'audit. Un responsable de la gouvernance les fait fonctionner toute l'année, dans de nombreuses équipes, avec des personnes responsables.
- La première des quatre fonctions du NIST AI Risk Management Framework est Gouverner (Govern). Le NIST a publié l'AI RMF 1.0 le 26 janvier 2023; il est volontaire. Le NIST a aussi publié un Generative AI Profile (NIST-AI-600-1) le 26 juillet 2024. La page du NIST indique que l'AI RMF 1.0 est en cours de révision; vérifiez donc la version actuelle.
- ISO/IEC 42001:2023 est une norme internationale pour un système de management de l'IA. Sa fiche dit qu'elle précise les exigences pour établir, mettre en oeuvre, maintenir et améliorer continuellement un système de management de l'IA dans une organisation de toute taille, avec des clauses sur le leadership (y compris une politique d'IA et des rôles attribués), l'évaluation des risques et des impacts, et l'audit interne et la revue de direction. Beaucoup d'organisations s'en servent comme liste de contrôle, même si elles ne cherchent jamais à obtenir un certificat. Le texte complet est vendu par l'ISO; lisez donc la publication officielle avant d'affirmer que vous la respectez.
- La responsabilité (accountability) signifie qu'une personne nommée peut répondre d'une décision. Un blâme dilué est le signe d'une gouvernance faible.
- Une structure de supervision simple pour une organisation petite ou moyenne :
- Rôle - Ce qu'il fait
- Commanditaire de la direction - Est responsable de la politique d'IA au niveau de la direction; a le dernier mot sur les utilisations à risque élevé; donne le temps et le budget

The exercise I'm working on:
Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches.

I'm stuck. Please:
1. Explain the main idea in plain, simple words with one everyday example.
2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step.
3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Le rôle du responsable de la gouvernance et la structure de supervision" from the course "Responsable de la gouvernance de l'IA : supervision, incidents et responsabilité".

Here's what the lesson says:
Une école a une direction, des enseignants et une personne responsable des objets perdus, et tout le monde sait qui décide quoi. Si personne n'est responsable, chacun attend que quelqu'un d'autre agisse. Un responsable de la gouvernance de l'IA veille à ce que chaque utilisation de l'IA ait une personne clairement responsable et un groupe clair qui peut dire oui ou non.

The activity:
Dessinez votre structure de supervision : des rôles avec des noms, les droits de décision par niveau et un tableau RACI pour cinq tâches.

Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words.
Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Open Claude
Sources
My notes
02

Concevoir le processus de supervision : le cycle de vie d'une utilisation de l'IA

This lesson is part of full access: every course and every level for one payment.

03

L'évaluation des fournisseurs

This lesson is part of full access: every course and every level for one payment.

04

La réponse aux incidents

This lesson is part of full access: every course and every level for one payment.

05

La formation du personnel et une culture du signalement

This lesson is part of full access: every course and every level for one payment.

06

Mesurer, auditer et faire rapport à la direction

This lesson is part of full access: every course and every level for one payment.

07

Travailler avec les avocats et les responsables de la vie privée, et diriger avec responsabilité

This lesson is part of full access: every course and every level for one payment.

++

Final project

This lesson is part of full access: every course and every level for one payment.

??

Quiz

  1. Pourquoi chaque utilisation de l'IA devrait-elle avoir un seul responsable nommé?

  2. Qui devrait approuver une utilisation de niveau Élevé selon le modèle du cours?

  3. Nommez trois étapes du cycle de vie d'une utilisation de l'IA.

  4. Pourquoi garder la porte d'entrée facile pour les demandes de niveau Faible?

  5. Pourquoi préférer des documents à la page de marketing d'un fournisseur?

  6. Nommez deux questions à poser à un fournisseur au sujet des données.

  7. Qu'est-ce qu'un quasi-incident et pourquoi le consigner?

  8. Quelles sont les six étapes de la routine d'incident?

  9. Pourquoi faut-il conserver un registre d'une atteinte même si elle n'a pas été signalée?

  10. Pourquoi un dirigeant devrait-il remercier les gens qui signalent des problèmes?

  11. Pourquoi un plus grand nombre de quasi-incidents signalés peut-il être une bonne nouvelle?

  12. Quand un responsable de la gouvernance devrait-il appeler un avocat ou un responsable de la vie privée?

EX

Final exam

This lesson is part of full access: every course and every level for one payment.

CE

Certificate

This lesson is part of full access: every course and every level for one payment.