Ce qu'est la gouvernance de l'IA
Une école a des règles, une direction, un horaire de cloches et une boîte d'objets perdus. C'est comme ça que tout le monde sait quoi faire et à qui demander. La gouvernance de l'IA, c'est la même chose pour l'IA au travail : les règles, les personnes responsables et la façon de vérifier que les règles sont suivies.
- La gouvernance de l'IA désigne les politiques, les rôles, les processus et les registres qui guident la façon dont une organisation choisit, utilise et surveille l'IA. Le course 1.8.2 vous a donné la vérification des risques d'une page ; la gouvernance la rend reproductible dans toute une organisation.
- Le National Institute of Standards and Technology (NIST) des États-Unis a publié son AI Risk Management Framework (AI RMF 1.0) le 26 janvier 2023. Il est volontaire. Ses quatre fonctions de base sont Govern (gouverner), Map (cartographier), Measure (mesurer) et Manage (gérer). Le NIST a aussi publié un Generative AI Profile le 26 juillet 2024.
- Le guide du gouvernement du Canada sur l'IA générative à l'intention des institutions fédérales énonce six principes, résumés par le sigle anglais FASTER : Fair (équitable), Accountable (responsable), Secure (sécuritaire), Transparent (transparent), Educated (informé), Relevant (pertinent). Le guide est écrit pour les fonctionnaires, mais une entreprise peut en emprunter les idées.
- Le Code de conduite volontaire du gouvernement du Canada sur les systèmes d'IA générative avancés (lancé en septembre 2023) comporte six principes : la responsabilité, la sécurité, l'équité, la transparence, la supervision humaine et la surveillance, et la validité et la robustesse. Il est volontaire et s'adresse aux organisations qui conçoivent ou exploitent des systèmes d'IA générative avancés.
- Ce cours utilise une carte simple qui convient à tout ce qui précède :
| Rôle | La question | Où cela apparaît dans ce cours |
|---|---|---|
| Gouverner | Qui est responsable, et quelles sont les règles ? | Leçon 4 (politique), leçon 7 (rôles, révision) |
| Cartographier | Quelle IA utilisons-nous, pour quoi, avec les données de qui ? | Leçon 5 (inventaire et niveaux) |
| Mesurer | Est-ce que cela fonctionne de façon juste et sûre ? | Leçon 6 (audit) |
| Gérer | Que faisons-nous face aux problèmes ? | Leçons 6 et 7 (correctifs, registres, incidents) |
- Les quatre rôles sont la carte en langage simple que propose ce cours pour les noms des fonctions du NIST. Pour savoir ce que dit réellement le NIST, lisez le cadre lui-même.
- Écrivez le nom de votre organisation ou de votre équipe en haut d'une page (une petite entreprise, un club ou un projet de classe conviennent).
- Écrivez les quatre mots Gouverner, Cartographier, Mesurer, Gérer en colonne.
- À côté de chaque mot, écrivez une chose que votre équipe fait déjà et qui y correspond (par exemple "Gouverner : nous avons une feuille À faire et À ne pas faire du course 1.8.2").
- À côté de chaque mot, écrivez une chose qui manque.
- Entourez le mot qui présente le plus grand écart. C'est par là que vous commencez.
- Vérifiez : chaque mot a une chose que vous avez et une chose qui vous manque, et un mot est entouré.
Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.
Read the video script
[Host] "De bonnes règles pour l'IA, ce n'est pas seulement un document. Ce sont des règles, des personnes et des contrôles qui fonctionnent ensemble."
[Text on screen: Gouverner · Cartographier · Mesurer · Gérer] "Le NIST, un organisme de normalisation américain, nomme quatre rôles : gouverner, cartographier, mesurer et gérer."
[Text on screen: Qui est responsable ? Quelle IA utilisons-nous ? Est-ce que ça marche ? Que corrige-t-on ?] "Qui est responsable ? Quelle IA utilisons-nous ? Est-ce que ça fonctionne de façon juste ? Que corrige-t-on ?"
[Host] "Trouvez le plus grand écart dans votre équipe et commencez par là."
Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart.
ClaudeStuck? Copy a ready-made prompt for Claude
Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.
For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.
I'm learning "Notions de gouvernance de l'IA : politiques, audits et conformité" on The Future Market. Lesson 1: "Ce qu'est la gouvernance de l'IA". What the lesson teaches: - La gouvernance de l'IA désigne les politiques, les rôles, les processus et les registres qui guident la façon dont une organisation choisit, utilise et surveille l'IA. Le course 1.8.2 vous a donné la vérification des risques d'une page ; la gouvernance la rend reproductible dans toute une organisation. - Le National Institute of Standards and Technology (NIST) des États-Unis a publié son AI Risk Management Framework (AI RMF 1.0) le 26 janvier 2023. Il est volontaire. Ses quatre fonctions de base sont Govern (gouverner), Map (cartographier), Measure (mesurer) et Manage (gérer). Le NIST a aussi publié un Generative AI Profile le 26 juillet 2024. - Le guide du gouvernement du Canada sur l'IA générative à l'intention des institutions fédérales énonce six principes, résumés par le sigle anglais FASTER : Fair (équitable), Accountable (responsable), Secure (sécuritaire), Transparent (transparent), Educated (informé), Relevant (pertinent). Le guide est écrit pour les fonctionnaires, mais une entreprise peut en emprunter les idées. - Le Code de conduite volontaire du gouvernement du Canada sur les systèmes d'IA générative avancés (lancé en septembre 2023) comporte six principes : la responsabilité, la sécurité, l'équité, la transparence, la supervision humaine et la surveillance, et la validité et la robustesse. Il est volontaire et s'adresse aux organisations qui conçoivent ou exploitent des systèmes d'IA générative avancés. - Ce cours utilise une carte simple qui convient à tout ce qui précède : - Rôle - La question - Où cela apparaît dans ce cours - Gouverner - Qui est responsable, et quelles sont les règles ? - Leçon 4 (politique), leçon 7 (rôles, révision) The exercise I'm working on: Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart. I'm stuck. Please: 1. Explain the main idea in plain, simple words with one everyday example. 2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step. 3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Ce qu'est la gouvernance de l'IA" from the course "Notions de gouvernance de l'IA : politiques, audits et conformité". Here's what the lesson says: Une école a des règles, une direction, un horaire de cloches et une boîte d'objets perdus. C'est comme ça que tout le monde sait quoi faire et à qui demander. La gouvernance de l'IA, c'est la même chose pour l'IA au travail : les règles, les personnes responsables et la façon de vérifier que les règles sont suivies. The activity: Remplissez la page des quatre mots pour une vraie équipe. Écrivez pour chaque rôle une chose que vous avez et une chose qui vous manque, et entourez le plus grand écart. Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words. Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Sources
- NIST, AI Risk Management Framework: www.nist.gov/itl/ai-risk-management-framework
- Government of Canada, Guide on the use of generative artificial intelligence: www.canada.ca/en/government/system/digital-government/digital-governme
- Innovation, Science and Economic Development Canada, Voluntary Code of Conduct on the Responsible Development and Management of Advanced Generative AI Systems: ised-isde.canada.ca/site/ised/en/voluntary-code-conduct-responsible-de
La loi sur la vie privée en mots simples (la LPRPDE du Canada comme exemple détaillé)
This lesson is part of full access: every course and every level for one payment.
Où en sont les règles sur l'IA (le Canada comme exemple détaillé)
This lesson is part of full access: every course and every level for one payment.
Rédiger une politique d'utilisation de l'IA
This lesson is part of full access: every course and every level for one payment.
Inventaire et niveaux de risque
This lesson is part of full access: every course and every level for one payment.
Faire l'audit d'un usage
This lesson is part of full access: every course and every level for one payment.
Registres, formation et savoir quand demander de l'aide
This lesson is part of full access: every course and every level for one payment.
Final project
This lesson is part of full access: every course and every level for one payment.
Quiz
Quelles sont les quatre fonctions de base du NIST pour la gestion des risques de l'IA ?
Gouverner, cartographier, mesurer et gérer (Govern, Map, Measure et Manage).
Pourquoi vérifier si un projet de loi sur l'IA est en vigueur avant de s'y fier ?
Les projets de loi peuvent échouer ou changer ; seule une loi adoptée s'applique.
Un nouveau projet de loi sur la vie privée est lu pour la première fois au parlement. Quel est son statut ?
Proposé, pas une loi ; consultez le suivi officiel des projets de loi de votre parlement.
Nommez trois principes courants d'équité en matière d'information dans les lois sur la vie privée.
Par exemple la responsabilité, le consentement, la limitation de la collecte, les mesures de sécurité, la transparence.
Pourquoi vérifier quelle loi sur la vie privée protège vos clients ?
Les pays, et parfois les États ou les provinces, ont des lois différentes ; vérifiez où vivent vos clients.
Quelle est la bonne pratique quand une décision concernant une personne est fondée uniquement sur un traitement automatisé ?
Informer la personne et lui permettre de s'adresser à quelqu'un qui peut la réviser.
Que produit une évaluation de l'incidence de l'IA ?
Un niveau de risque qui fixe les vérifications nécessaires pour un système de décision automatisé.
Nommez quatre sections d'une courte politique d'utilisation de l'IA.
Par exemple objet et portée, outils approuvés, règles sur les données, révision humaine, usages à fort impact, divulgation, signalement, responsable et date de révision, exceptions.
Dans le modèle à trois niveaux du cours, qu'est-ce qui rend un usage à risque Élevé ?
Il touche l'emploi, le logement, l'argent, la santé, les résultats scolaires ou les droits d'une personne.
Dans un audit, comment traite-t-on une preuve manquante ?
Comme un Échoué, avec un correctif, un responsable et une date.
Pourquoi conserver un registre de chaque atteinte aux données, et pendant combien de temps ?
Pour montrer ce qui s'est passé et comment cela a été traité ; le conserver aussi longtemps que la loi de votre pays l'exige.
Nommez deux situations où vous devriez faire appel à un responsable de la protection des renseignements personnels ou à un avocat.
Par exemple une fuite, une plainte, des décisions concernant des personnes, un contrat de fournisseur, ne pas savoir quelle loi s'applique.
Final exam
This lesson is part of full access: every course and every level for one payment.
Certificate
This lesson is part of full access: every course and every level for one payment.