THE FUTURE MARKETACADEMY
Your classroomRoom 01 · AI Lab
School of AI

Notions de gouvernance de l'IA : politiques, audits et conformité

Step 6 of 7 in AI Lab

Next in your path: 1.2.3 Prompt Testing: evaluate and improve your prompts

What you'll be able to do
  • Expliquer ce qu'est la gouvernance de l'IA et nommer ses quatre rôles (gouverner, cartographier, mesurer, gérer).
  • Décrire, en vue d'ensemble, les règles sur la vie privée de votre pays qui s'appliquent quand une équipe utilise l'IA avec des renseignements personnels (la LPRPDE du Canada sert d'exemple détaillé).
  • Dire où en sont les règles sur l'IA dans votre pays aujourd'hui : ce qui est une loi, ce qui est proposé et ce qui est volontaire (le Canada sert d'exemple détaillé).
  • Rédiger une courte politique d'utilisation de l'IA qu'une équipe peut lire en cinq minutes.
  • Dresser un inventaire des usages de l'IA, les classer par niveaux de risque et faire un simple audit d'un usage.
  • Conserver les registres, la formation et les dates de révision qui prouvent que la politique est réelle, et savoir quand faire appel à un responsable de la protection des renseignements personnels ou à un avocat.

Avant ce cours : AI Risk at Work: privacy, bias and misuse in practice (Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique) (course 1.8.2). Vous connaissez déjà les trois familles de risques, ce qu'est une atteinte à la vie privée, comment tester les biais, comment limiter ce qu'un outil d'IA peut faire, et comment remplir une vérification des risques d'une page et une feuille "à faire et à ne pas faire". Ce cours va un cran plus loin : des bonnes habitudes d'une équipe à une politique écrite, un audit reproductible et une carte de base des règles, en prenant le Canada comme exemple détaillé (les encadrés "In your country" montrent d'autres pays). Éducation seulement ; ce n'est pas un avis juridique. Les lois changent, et une vraie question juridique relève d'un responsable de la protection des renseignements personnels ou d'un avocat.

Words in this course 48Open the Vocabulary Hall
01

Ce qu'est la gouvernance de l'IA

In simple words

Une école a des règles, une direction, un horaire de cloches et une boîte d'objets perdus. C'est comme ça que tout le monde sait quoi faire et à qui demander. La gouvernance de l'IA, c'est la même chose pour l'IA au travail : les règles, les personnes responsables et la façon de vérifier que les règles sont suivies.

Key facts
  • La gouvernance de l'IA désigne les politiques, les rôles, les processus et les registres qui guident la façon dont une organisation choisit, utilise et surveille l'IA. Le course 1.8.2 vous a donné la vérification des risques d'une page ; la gouvernance la rend reproductible dans toute une organisation.
  • Le National Institute of Standards and Technology (NIST) des États-Unis a publié son AI Risk Management Framework (AI RMF 1.0) le 26 janvier 2023. Il est volontaire. Ses quatre fonctions de base sont Govern (gouverner), Map (cartographier), Measure (mesurer) et Manage (gérer). Le NIST a aussi publié un Generative AI Profile le 26 juillet 2024.
  • Le guide du gouvernement du Canada sur l'IA générative à l'intention des institutions fédérales énonce six principes, résumés par le sigle anglais FASTER : Fair (équitable), Accountable (responsable), Secure (sécuritaire), Transparent (transparent), Educated (informé), Relevant (pertinent). Le guide est écrit pour les fonctionnaires, mais une entreprise peut en emprunter les idées.
  • Le Code de conduite volontaire du gouvernement du Canada sur les systèmes d'IA générative avancés (lancé en septembre 2023) comporte six principes : la responsabilité, la sécurité, l'équité, la transparence, la supervision humaine et la surveillance, et la validité et la robustesse. Il est volontaire et s'adresse aux organisations qui conçoivent ou exploitent des systèmes d'IA générative avancés.
  • Ce cours utilise une carte simple qui convient à tout ce qui précède :
RôleLa questionOù cela apparaît dans ce cours
GouvernerQui est responsable, et quelles sont les règles ?Leçon 4 (politique), leçon 7 (rôles, révision)
CartographierQuelle IA utilisons-nous, pour quoi, avec les données de qui ?Leçon 5 (inventaire et niveaux)
MesurerEst-ce que cela fonctionne de façon juste et sûre ?Leçon 6 (audit)
GérerQue faisons-nous face aux problèmes ?Leçons 6 et 7 (correctifs, registres, incidents)
  • Les quatre rôles sont la carte en langage simple que propose ce cours pour les noms des fonctions du NIST. Pour savoir ce que dit réellement le NIST, lisez le cadre lui-même.
Step by step
  1. Écrivez le nom de votre organisation ou de votre équipe en haut d'une page (une petite entreprise, un club ou un projet de classe conviennent).
  2. Écrivez les quatre mots Gouverner, Cartographier, Mesurer, Gérer en colonne.
  3. À côté de chaque mot, écrivez une chose que votre équipe fait déjà et qui y correspond (par exemple "Gouverner : nous avons une feuille À faire et À ne pas faire du course 1.8.2").
  4. À côté de chaque mot, écrivez une chose qui manque.
  5. Entourez le mot qui présente le plus grand écart. C'est par là que vous commencez.
  6. Vérifiez : chaque mot a une chose que vous avez et une chose qui vous manque, et un mot est entouré.
Watch on YouTube
NIST AI Risk Management Framework (RMF): a practical guideStandarity · YouTube · youtube.com
CertMike explains the NIST AI Risk Management FrameworkMike Chapple · YouTube · youtube.com

Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.

LESSON 01Ce qu'est la gouvernance de l'IA
LESSON 01 / ANIMATED LESSON / ENGLISH VOICE00:00 / 01:00
Read the video script
[Host] "De bonnes règles pour l'IA, ce n'est pas seulement un document. Ce sont des règles, des personnes et des contrôles qui fonctionnent ensemble."
[Text on screen: Gouverner · Cartographier · Mesurer · Gérer] "Le NIST, un organisme de normalisation américain, nomme quatre rôles : gouverner, cartographier, mesurer et gérer."
[Text on screen: Qui est responsable ? Quelle IA utilisons-nous ? Est-ce que ça marche ? Que corrige-t-on ?] "Qui est responsable ? Quelle IA utilisons-nous ? Est-ce que ça fonctionne de façon juste ? Que corrige-t-on ?"
[Host] "Trouvez le plus grand écart dans votre équipe et commencez par là."
Try it now

Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart.

ClaudeStuck? Copy a ready-made prompt for Claude

Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.

For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.

I'm learning "Notions de gouvernance de l'IA : politiques, audits et conformité" on The Future Market. Lesson 1: "Ce qu'est la gouvernance de l'IA".

What the lesson teaches:
- La gouvernance de l'IA désigne les politiques, les rôles, les processus et les registres qui guident la façon dont une organisation choisit, utilise et surveille l'IA. Le course 1.8.2 vous a donné la vérification des risques d'une page ; la gouvernance la rend reproductible dans toute une organisation.
- Le National Institute of Standards and Technology (NIST) des États-Unis a publié son AI Risk Management Framework (AI RMF 1.0) le 26 janvier 2023. Il est volontaire. Ses quatre fonctions de base sont Govern (gouverner), Map (cartographier), Measure (mesurer) et Manage (gérer). Le NIST a aussi publié un Generative AI Profile le 26 juillet 2024.
- Le guide du gouvernement du Canada sur l'IA générative à l'intention des institutions fédérales énonce six principes, résumés par le sigle anglais FASTER : Fair (équitable), Accountable (responsable), Secure (sécuritaire), Transparent (transparent), Educated (informé), Relevant (pertinent). Le guide est écrit pour les fonctionnaires, mais une entreprise peut en emprunter les idées.
- Le Code de conduite volontaire du gouvernement du Canada sur les systèmes d'IA générative avancés (lancé en septembre 2023) comporte six principes : la responsabilité, la sécurité, l'équité, la transparence, la supervision humaine et la surveillance, et la validité et la robustesse. Il est volontaire et s'adresse aux organisations qui conçoivent ou exploitent des systèmes d'IA générative avancés.
- Ce cours utilise une carte simple qui convient à tout ce qui précède :
- Rôle - La question - Où cela apparaît dans ce cours
- Gouverner - Qui est responsable, et quelles sont les règles ? - Leçon 4 (politique), leçon 7 (rôles, révision)

The exercise I'm working on:
Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart.

I'm stuck. Please:
1. Explain the main idea in plain, simple words with one everyday example.
2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step.
3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Ce qu'est la gouvernance de l'IA" from the course "Notions de gouvernance de l'IA : politiques, audits et conformité".

Here's what the lesson says:
Une école a des règles, une direction, un horaire de cloches et une boîte d'objets perdus. C'est comme ça que tout le monde sait quoi faire et à qui demander. La gouvernance de l'IA, c'est la même chose pour l'IA au travail : les règles, les personnes responsables et la façon de vérifier que les règles sont suivies.

The activity:
Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart.

Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words.
Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Open Claude
Sources
My notes
02

La loi sur la vie privée en mots simples (la LPRPDE du Canada comme exemple détaillé)

This lesson is part of full access: every course and every level for one payment.

03

Où en sont les règles sur l'IA (le Canada comme exemple détaillé)

This lesson is part of full access: every course and every level for one payment.

04

Rédiger une politique d'utilisation de l'IA

This lesson is part of full access: every course and every level for one payment.

05

Inventaire et niveaux de risque

This lesson is part of full access: every course and every level for one payment.

06

Faire l'audit d'un usage

This lesson is part of full access: every course and every level for one payment.

07

Registres, formation et savoir quand demander de l'aide

This lesson is part of full access: every course and every level for one payment.

++

Final project

This lesson is part of full access: every course and every level for one payment.

??

Quiz

  1. Quelles sont les quatre fonctions de base du NIST pour la gestion des risques de l'IA ?

  2. Pourquoi vérifier si un projet de loi sur l'IA est en vigueur avant de s'y fier ?

  3. Un nouveau projet de loi sur la vie privée est lu pour la première fois au parlement. Quel est son statut ?

  4. Nommez trois principes courants d'équité en matière d'information dans les lois sur la vie privée.

  5. Pourquoi vérifier quelle loi sur la vie privée protège vos clients ?

  6. Quelle est la bonne pratique quand une décision concernant une personne est fondée uniquement sur un traitement automatisé ?

  7. Que produit une évaluation de l'incidence de l'IA ?

  8. Nommez quatre sections d'une courte politique d'utilisation de l'IA.

  9. Dans le modèle à trois niveaux du cours, qu'est-ce qui rend un usage à risque Élevé ?

  10. Dans un audit, comment traite-t-on une preuve manquante ?

  11. Pourquoi conserver un registre de chaque atteinte aux données, et pendant combien de temps ?

  12. Nommez deux situations où vous devriez faire appel à un responsable de la protection des renseignements personnels ou à un avocat.

EX

Final exam

This lesson is part of full access: every course and every level for one payment.

CE

Certificate

This lesson is part of full access: every course and every level for one payment.