Les trois familles de risques de l'IA au travail
Pensez à l'IA au travail comme à un nouvel aide de cuisine. Il pourrait révéler la recette secrète de la famille (vie privée), traiter certains clients injustement sans s'en rendre compte (biais), ou quelqu'un pourrait le piéger pour qu'il ouvre la porte arrière (sécurité et mauvais usage). Connaître les trois sortes d'ennuis aide à regarder aux bons endroits.
- Le Centre canadien pour la cybersécurité (guide ITSAP.00.041) nomme ces risques de l'IA générative, entre autres :
- Confidentialité des données : des utilisateurs peuvent saisir sans le savoir des données sensibles de l'entreprise ou des renseignements personnels dans des prompts.
- Contenu biaisé : les données d'entraînement tirées d'Internet ouvert et une représentation déséquilibrée peuvent rendre les résultats empreints de préjugés.
- Mésinformation et désinformation : un contenu d'IA qui n'est pas clairement étiqueté peut propager de fausses informations.
- Hameçonnage : les attaquants peuvent rédiger des messages d'harponnage plus fréquents, automatisés et convaincants.
- Code malveillant et code défectueux : les attaquants peuvent créer des maliciels, et les développeurs peuvent introduire du code non sécurisé.
- Jeux de données empoisonnés : du contenu malveillant dans les données d'entraînement peut affaiblir la qualité des résultats et accroître le risque pour la chaîne d'approvisionnement.
- Perte de propriété intellectuelle : l'IA peut aider les attaquants à voler plus facilement les données d'une entreprise.
- Ce cours les regroupe en trois familles :
| Famille | La question qu'elle pose | Exemple au travail |
|---|---|---|
| Vie privée | Les renseignements de qui entrent ou sortent ? | Un agent du soutien colle le dossier complet d'un client dans une conversation |
| Biais | Le résultat pourrait-il traiter certaines personnes injustement ? | L'IA classe des candidats à un emploi et favorise un groupe |
| Sécurité et mauvais usage | Quelqu'un pourrait-il piéger ou détourner l'outil ? | Une page Web cache des instructions pour un agent d'IA |
- Les conseils du Centre pour la cybersécurité aux organisations comprennent : établir des politiques sur l'utilisation de l'IA, choisir ses fournisseurs avec soin, faire attention aux renseignements qu'on y entre, utiliser l'AMF, appliquer les mises à jour et former les employés.
- Notez toutes les façons dont votre équipe utilise déjà l'IA (rédaction, résumés, recherche, chiffriers, réponses aux clients). Incluez les outils que des gens utilisent de leur propre chef.
- Pour chaque usage, notez le genre de renseignements qui y entrent : publics, internes ou personnels.
- Étiquetez chaque usage avec la famille qui vous inquiète le plus : vie privée, biais, ou sécurité et mauvais usage.
- Entourez tout usage qui touche à des renseignements personnels ou à des décisions concernant des personnes.
- Mettez les usages entourés en haut de la liste. Ce sont ceux que vous examinerez en premier dans les prochaines leçons.
- Vérifiez : chaque usage a un type de renseignements et une étiquette de famille, et au moins un est entouré, ou vous pouvez expliquer pourquoi aucun ne l'est.
Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.
Read the video script
[Host] "L'IA au travail peut mal tourner de trois façons. Apprenez-les et vous saurez où regarder."
[Text on screen: 1. Vie privée] "Un : la vie privée. Quelqu'un colle des renseignements qui ne devraient pas quitter l'édifice."
[Text on screen: 2. Biais] "Deux : les biais. Le résultat traite certaines personnes injustement, et personne ne le remarque."
[Text on screen: 3. Sécurité et mauvais usage] "Trois : la sécurité. Quelqu'un piège l'outil, ou s'en sert pour vous piéger."
[Host] "Nommez d'abord la famille. Ensuite, vous pouvez corriger la bonne chose."
Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner.
ClaudeStuck? Copy a ready-made prompt for Claude
Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.
For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.
I'm learning "Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique" on The Future Market. Lesson 1: "Les trois familles de risques de l'IA au travail". What the lesson teaches: - Le Centre canadien pour la cybersécurité (guide ITSAP.00.041) nomme ces risques de l'IA générative, entre autres : - Confidentialité des données : des utilisateurs peuvent saisir sans le savoir des données sensibles de l'entreprise ou des renseignements personnels dans des prompts. - Contenu biaisé : les données d'entraînement tirées d'Internet ouvert et une représentation déséquilibrée peuvent rendre les résultats empreints de préjugés. - Mésinformation et désinformation : un contenu d'IA qui n'est pas clairement étiqueté peut propager de fausses informations. - Hameçonnage : les attaquants peuvent rédiger des messages d'harponnage plus fréquents, automatisés et convaincants. - Code malveillant et code défectueux : les attaquants peuvent créer des maliciels, et les développeurs peuvent introduire du code non sécurisé. - Jeux de données empoisonnés : du contenu malveillant dans les données d'entraînement peut affaiblir la qualité des résultats et accroître le risque pour la chaîne d'approvisionnement. The exercise I'm working on: Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner. I'm stuck. Please: 1. Explain the main idea in plain, simple words with one everyday example. 2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step. 3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Les trois familles de risques de l'IA au travail" from the course "Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique". Here's what the lesson says: Pensez à l'IA au travail comme à un nouvel aide de cuisine. Il pourrait révéler la recette secrète de la famille (vie privée), traiter certains clients injustement sans s'en rendre compte (biais), ou quelqu'un pourrait le piéger pour qu'il ouvre la porte arrière (sécurité et mauvais usage). Connaître les trois sortes d'ennuis aide à regarder aux bons endroits. The activity: Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner. Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words. Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Sources
- Canadian Centre for Cyber Security, Generative artificial intelligence (AI) (ITSAP.00.041): www.cyber.gc.ca/en/guidance/generative-artificial-intelligence-ai-itsa
La vie privée au travail : ce que les organismes de réglementation attendent
This lesson is part of full access: every course and every level for one payment.
Quand quelque chose fuit : les atteintes à la vie privée
This lesson is part of full access: every course and every level for one payment.
Les biais en pratique : les décisions concernant des personnes
This lesson is part of full access: every course and every level for one payment.
Sécurité et mauvais usage : pièges, arnaques et mauvais code
This lesson is part of full access: every course and every level for one payment.
Une simple vérification des risques de l'IA
This lesson is part of full access: every course and every level for one payment.
Des règles "à faire et à ne pas faire" pour votre équipe
This lesson is part of full access: every course and every level for one payment.
Final project
This lesson is part of full access: every course and every level for one payment.
Quiz
Nommez les trois familles de risques utilisées dans ce cours.
Vie privée, biais, et sécurité ou mauvais usage.
Selon les lignes directrices de bonnes pratiques sur l'IA, quand des renseignements personnels peuvent-ils entrer dans un prompt ?
Seulement lorsque c'est autorisé et nécessaire ; utilisez des données dépersonnalisées quand les renseignements personnels ne sont pas nécessaires.
Selon les conditions commerciales d'Anthropic, qui est le responsable du traitement des données et qui est le sous-traitant ?
Le client est le responsable du traitement ; Anthropic agit comme sous-traitant.
Quand une organisation doit-elle signaler une atteinte à l'organisme de réglementation et aviser les gens ?
Quand il y a un risque réel de préjudice grave ; vérifiez les règles et les délais de votre propre pays.
De quels deux éléments dépend un risque réel de préjudice grave ?
De la sensibilité des renseignements et de la probabilité qu'ils soient mal utilisés.
Que faut-il faire avec les registres des atteintes aux données ?
Tenir un registre de chaque atteinte, qu'elle ait atteint ou non le seuil de préjudice, aussi longtemps que les règles de votre pays l'exigent.
De nombreux pays fixent des délais courts pour aviser l'organisme de réglementation d'une atteinte. Que faut-il faire ?
Connaître à l'avance le délai de votre pays et signaler rapidement, dans ce délai.
Qui doit prendre la décision finale quand l'IA aide à l'embauche ou à la notation ?
Une personne nommée, pas l'IA.
Qu'est-ce que l'injection de prompt ?
Des instructions malveillantes cachées dans du contenu qu'une IA traite, qui peuvent détourner son comportement.
Quelle est une règle de départ sûre pour un outil d'IA qui peut poser des actions ?
Commencer en lecture seule et exiger l'approbation d'un humain avant qu'il envoie, supprime, paie ou publie.
Final exam
This lesson is part of full access: every course and every level for one payment.
Certificate
This lesson is part of full access: every course and every level for one payment.