THE FUTURE MARKETACADEMY
Your classroomRoom 01 · AI Lab
School of AI

Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique

What you'll be able to do
  • Classer les risques de l'IA au travail en trois familles : vie privée, biais, et sécurité ou mauvais usage.
  • Expliquer, en mots simples, ce que les organismes de protection de la vie privée de votre pays attendent d'une équipe qui utilise l'IA avec des renseignements personnels (avec des exemples canadiens et philippins).
  • Savoir ce qu'est une atteinte à la vie privée, quand elle doit être signalée, et quoi faire dans la première heure.
  • Repérer les résultats injustes quand l'IA aide à prendre des décisions concernant des personnes, et garder un humain aux commandes.
  • Reconnaître l'injection de prompt, l'hameçonnage alimenté par l'IA et d'autres mauvais usages, et fermer les portes faciles.
  • Remplir une simple vérification des risques de l'IA d'une page et rédiger des règles claires de ce qu'il faut faire et ne pas faire pour une équipe.

Avant ce cours : AI Safety, Privacy and Ethics for Everyday Users (Sécurité, vie privée et éthique de l'IA pour les utilisateurs de tous les jours) (course 1.8). Vous savez déjà comment modifier les paramètres de confidentialité, ce qui n'entre jamais dans un prompt, comment vérifier une réponse, comment repérer les arnaques par IA et comment activer l'AMF (authentification multifacteur). Ce cours passe de vos propres habitudes au milieu de travail : de vrais emplois, les données des autres et des règles qu'une équipe peut suivre. Éducation seulement ; ce n'est pas un avis juridique. Pour un vrai incident ou une question juridique, parlez à votre responsable de la protection des renseignements personnels ou à un avocat.

Words in this course 49Open the Vocabulary Hall
01

Les trois familles de risques de l'IA au travail

In simple words

Pensez à l'IA au travail comme à un nouvel aide de cuisine. Il pourrait révéler la recette secrète de la famille (vie privée), traiter certains clients injustement sans s'en rendre compte (biais), ou quelqu'un pourrait le piéger pour qu'il ouvre la porte arrière (sécurité et mauvais usage). Connaître les trois sortes d'ennuis aide à regarder aux bons endroits.

Key facts
  • Le Centre canadien pour la cybersécurité (guide ITSAP.00.041) nomme ces risques de l'IA générative, entre autres :
  • Confidentialité des données : des utilisateurs peuvent saisir sans le savoir des données sensibles de l'entreprise ou des renseignements personnels dans des prompts.
  • Contenu biaisé : les données d'entraînement tirées d'Internet ouvert et une représentation déséquilibrée peuvent rendre les résultats empreints de préjugés.
  • Mésinformation et désinformation : un contenu d'IA qui n'est pas clairement étiqueté peut propager de fausses informations.
  • Hameçonnage : les attaquants peuvent rédiger des messages d'harponnage plus fréquents, automatisés et convaincants.
  • Code malveillant et code défectueux : les attaquants peuvent créer des maliciels, et les développeurs peuvent introduire du code non sécurisé.
  • Jeux de données empoisonnés : du contenu malveillant dans les données d'entraînement peut affaiblir la qualité des résultats et accroître le risque pour la chaîne d'approvisionnement.
  • Perte de propriété intellectuelle : l'IA peut aider les attaquants à voler plus facilement les données d'une entreprise.
  • Ce cours les regroupe en trois familles :
FamilleLa question qu'elle poseExemple au travail
Vie privéeLes renseignements de qui entrent ou sortent ?Un agent du soutien colle le dossier complet d'un client dans une conversation
BiaisLe résultat pourrait-il traiter certaines personnes injustement ?L'IA classe des candidats à un emploi et favorise un groupe
Sécurité et mauvais usageQuelqu'un pourrait-il piéger ou détourner l'outil ?Une page Web cache des instructions pour un agent d'IA
  • Les conseils du Centre pour la cybersécurité aux organisations comprennent : établir des politiques sur l'utilisation de l'IA, choisir ses fournisseurs avec soin, faire attention aux renseignements qu'on y entre, utiliser l'AMF, appliquer les mises à jour et former les employés.
Step by step
  1. Notez toutes les façons dont votre équipe utilise déjà l'IA (rédaction, résumés, recherche, chiffriers, réponses aux clients). Incluez les outils que des gens utilisent de leur propre chef.
  2. Pour chaque usage, notez le genre de renseignements qui y entrent : publics, internes ou personnels.
  3. Étiquetez chaque usage avec la famille qui vous inquiète le plus : vie privée, biais, ou sécurité et mauvais usage.
  4. Entourez tout usage qui touche à des renseignements personnels ou à des décisions concernant des personnes.
  5. Mettez les usages entourés en haut de la liste. Ce sont ceux que vous examinerez en premier dans les prochaines leçons.
  6. Vérifiez : chaque usage a un type de renseignements et une étiquette de famille, et au moins un est entouré, ou vous pouvez expliquer pourquoi aucun ne l'est.
Watch on YouTube
AI privacy: what happens to your data when you use AI tools?CampusGuard · YouTube · youtube.com

Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.

LESSON 01Les trois familles de risques de l'IA au travail
LESSON 01 / ANIMATED LESSON / ENGLISH VOICE00:00 / 01:00
Read the video script
[Host] "L'IA au travail peut mal tourner de trois façons. Apprenez-les et vous saurez où regarder."
[Text on screen: 1. Vie privée] "Un : la vie privée. Quelqu'un colle des renseignements qui ne devraient pas quitter l'édifice."
[Text on screen: 2. Biais] "Deux : les biais. Le résultat traite certaines personnes injustement, et personne ne le remarque."
[Text on screen: 3. Sécurité et mauvais usage] "Trois : la sécurité. Quelqu'un piège l'outil, ou s'en sert pour vous piéger."
[Host] "Nommez d'abord la famille. Ensuite, vous pouvez corriger la bonne chose."
Try it now

Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner.

ClaudeStuck? Copy a ready-made prompt for Claude

Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.

For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.

I'm learning "Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique" on The Future Market. Lesson 1: "Les trois familles de risques de l'IA au travail".

What the lesson teaches:
- Le Centre canadien pour la cybersécurité (guide ITSAP.00.041) nomme ces risques de l'IA générative, entre autres :
- Confidentialité des données : des utilisateurs peuvent saisir sans le savoir des données sensibles de l'entreprise ou des renseignements personnels dans des prompts.
- Contenu biaisé : les données d'entraînement tirées d'Internet ouvert et une représentation déséquilibrée peuvent rendre les résultats empreints de préjugés.
- Mésinformation et désinformation : un contenu d'IA qui n'est pas clairement étiqueté peut propager de fausses informations.
- Hameçonnage : les attaquants peuvent rédiger des messages d'harponnage plus fréquents, automatisés et convaincants.
- Code malveillant et code défectueux : les attaquants peuvent créer des maliciels, et les développeurs peuvent introduire du code non sécurisé.
- Jeux de données empoisonnés : du contenu malveillant dans les données d'entraînement peut affaiblir la qualité des résultats et accroître le risque pour la chaîne d'approvisionnement.

The exercise I'm working on:
Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner.

I'm stuck. Please:
1. Explain the main idea in plain, simple words with one everyday example.
2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step.
3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Les trois familles de risques de l'IA au travail" from the course "Les risques de l'IA au travail : vie privée, biais et mauvais usages en pratique".

Here's what the lesson says:
Pensez à l'IA au travail comme à un nouvel aide de cuisine. Il pourrait révéler la recette secrète de la famille (vie privée), traiter certains clients injustement sans s'en rendre compte (biais), ou quelqu'un pourrait le piéger pour qu'il ouvre la porte arrière (sécurité et mauvais usage). Connaître les trois sortes d'ennuis aide à regarder aux bons endroits.

The activity:
Faites une liste d'une page des usages de l'IA dans votre équipe, avec le type de renseignements et la famille pour chacun, et entourez les trois principaux à examiner.

Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words.
Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Open Claude
Sources
My notes
02

La vie privée au travail : ce que les organismes de réglementation attendent

This lesson is part of full access: every course and every level for one payment.

03

Quand quelque chose fuit : les atteintes à la vie privée

This lesson is part of full access: every course and every level for one payment.

04

Les biais en pratique : les décisions concernant des personnes

This lesson is part of full access: every course and every level for one payment.

05

Sécurité et mauvais usage : pièges, arnaques et mauvais code

This lesson is part of full access: every course and every level for one payment.

06

Une simple vérification des risques de l'IA

This lesson is part of full access: every course and every level for one payment.

07

Des règles "à faire et à ne pas faire" pour votre équipe

This lesson is part of full access: every course and every level for one payment.

++

Final project

This lesson is part of full access: every course and every level for one payment.

??

Quiz

  1. Nommez les trois familles de risques utilisées dans ce cours.

  2. Selon les lignes directrices de bonnes pratiques sur l'IA, quand des renseignements personnels peuvent-ils entrer dans un prompt ?

  3. Selon les conditions commerciales d'Anthropic, qui est le responsable du traitement des données et qui est le sous-traitant ?

  4. Quand une organisation doit-elle signaler une atteinte à l'organisme de réglementation et aviser les gens ?

  5. De quels deux éléments dépend un risque réel de préjudice grave ?

  6. Que faut-il faire avec les registres des atteintes aux données ?

  7. De nombreux pays fixent des délais courts pour aviser l'organisme de réglementation d'une atteinte. Que faut-il faire ?

  8. Qui doit prendre la décision finale quand l'IA aide à l'embauche ou à la notation ?

  9. Qu'est-ce que l'injection de prompt ?

  10. Quelle est une règle de départ sûre pour un outil d'IA qui peut poser des actions ?

EX

Final exam

This lesson is part of full access: every course and every level for one payment.

CE

Certificate

This lesson is part of full access: every course and every level for one payment.