Ang tatlong pamilya ng panganib ng AI sa trabaho
Isipin ang AI sa trabaho na parang bagong katulong sa kusina. Baka mailabas niya ang sikretong recipe ng pamilya (privacy), baka hindi niya mapansing hindi patas ang trato niya sa ilang customer (bias), o baka may manlinlang sa kanya para buksan ang pintuan sa likod (seguridad at maling paggamit). Kapag alam mo ang tatlong uri ng gulo, alam mo kung saan titingin.
- Pinangalanan ng Canadian Centre for Cyber Security (guidance ITSAP.00.041) ang mga panganib na ito ng generative AI, bukod sa iba pa:
- Privacy ng datos: puwedeng hindi sinasadyang maglagay ang mga user ng sensitibong datos ng kumpanya o personal na impormasyon sa mga prompt.
- Biased na content: puwedeng maging mapanghusga ang output dahil sa training data mula sa bukas na internet at hindi balanseng representasyon.
- Misinformation at disinformation: ang AI content na hindi malinaw na may label ay puwedeng magpakalat ng maling impormasyon.
- Phishing: mas madalas, awtomatiko at mas kapani-paniwalang spear-phishing na mensahe ang kayang isulat ng mga umaatake.
- Malicious code at buggy code: makakagawa ng malware ang mga umaatake, at puwedeng makapagpasok ng hindi ligtas na code ang mga developer.
- Poisoned datasets: ang masamang content sa training data ay puwedeng magpahina sa kalidad ng output at magpataas ng supply-chain risk.
- Pagkawala ng intellectual property: matutulungan ng AI ang mga umaatake na mas madaling magnakaw ng datos ng kumpanya.
- Pinagsasama-sama ng kursong ito ang mga ito sa tatlong pamilya:
| Pamilya | Tanong na itinatanong nito | Halimbawa sa trabaho |
|---|---|---|
| Privacy | Kaninong impormasyon ang pumapasok o lumalabas? | Ipinaste ng support agent ang buong file ng customer sa isang chat |
| Bias | Puwede bang hindi patas ang trato ng resulta sa ilang tao? | Nire-rank ng AI ang mga aplikante sa trabaho at pinapaboran ang isang grupo |
| Seguridad at maling paggamit | Puwede bang linlangin o abusuhin ng isang tao ang tool? | May web page na may nakatagong utos para sa isang AI agent |
- Kasama sa payo ng Cyber Centre sa mga organisasyon ang pagtatakda ng mga patakaran kung paano gagamitin ang AI, maingat na pagpili ng vendor, pag-iingat sa kung anong impormasyon ang ilalagay, paggamit ng MFA, pag-apply ng mga update, at pagsasanay sa mga empleyado.
- Isulat ang bawat paraan na ginagamit na ng team mo ang AI (pagsusulat, mga buod, paghahanap, spreadsheet, mga sagot sa customer). Isama ang mga tool na ginagamit ng mga tao nang mag-isa.
- Sa bawat gamit, isulat ang uri ng impormasyong pumapasok: pampubliko, panloob, o personal.
- Lagyan ang bawat gamit ng isang pamilyang pinakanakakabahala sa iyo: Privacy, Bias, o Security and misuse.
- Bilugan ang anumang gamit na may kinalaman sa personal na impormasyon o sa mga desisyon tungkol sa mga tao.
- Ilagay sa itaas ang mga nakabilog. Ito ang mga uunahin mong suriin sa mga susunod na lesson.
- Tsek: bawat gamit ay may uri ng impormasyon at label ng pamilya, at kahit isa ay may bilog o kaya mong ipaliwanag kung bakit wala.
Videos by other creators on YouTube, for reference. They are not made by or affiliated with The Future Market.
Read the video script
[Host] "Tatlong paraan ang puwedeng ikamali ng AI sa trabaho. Alamin ang mga ito at alam mo na kung saan titingin."
[Text on screen: 1. Privacy] "Una: privacy. May naglalagay ng impormasyong hindi dapat lumabas ng opisina."
[Text on screen: 2. Bias] "Pangalawa: bias. Hindi patas ang resulta sa ilang tao, at walang nakakapansin."
[Text on screen: 3. Security and misuse] "Pangatlo: seguridad. May nanloloko sa tool, o gumagamit nito para manloko sa iyo."
[Host] "Pangalanan muna ang pamilya. Saka mo maaayos ang tamang bagay."
Gumawa ng isang-pahinang listahan ng mga gamit ng AI ng team mo na may uri ng impormasyon at pamilya para sa bawat isa, at bilugan ang tatlong uunahing suriin.
ClaudeStuck? Copy a ready-made prompt for Claude
Copy this, open Claude, paste it, and Claude will walk you through the lesson step by step.
For a grown-up: Claude is for adults (18+). Copy this, paste it into Claude, and use the answer to explain the lesson to your child.
I'm learning "AI Risk at Work: privacy, bias at maling paggamit sa totoong buhay" on The Future Market. Lesson 1: "Ang tatlong pamilya ng panganib ng AI sa trabaho". What the lesson teaches: - Pinangalanan ng Canadian Centre for Cyber Security (guidance ITSAP.00.041) ang mga panganib na ito ng generative AI, bukod sa iba pa: - Privacy ng datos: puwedeng hindi sinasadyang maglagay ang mga user ng sensitibong datos ng kumpanya o personal na impormasyon sa mga prompt. - Biased na content: puwedeng maging mapanghusga ang output dahil sa training data mula sa bukas na internet at hindi balanseng representasyon. - Misinformation at disinformation: ang AI content na hindi malinaw na may label ay puwedeng magpakalat ng maling impormasyon. - Phishing: mas madalas, awtomatiko at mas kapani-paniwalang spear-phishing na mensahe ang kayang isulat ng mga umaatake. - Malicious code at buggy code: makakagawa ng malware ang mga umaatake, at puwedeng makapagpasok ng hindi ligtas na code ang mga developer. - Poisoned datasets: ang masamang content sa training data ay puwedeng magpahina sa kalidad ng output at magpataas ng supply-chain risk. The exercise I'm working on: Gumawa ng isang-pahinang listahan ng mga gamit ng AI ng team mo na may uri ng impormasyon at pamilya para sa bawat isa, at bilugan ang tatlong uunahing suriin. I'm stuck. Please: 1. Explain the main idea in plain, simple words with one everyday example. 2. Walk me through the exercise one small step at a time. Ask me what I've done so far before giving the next step. 3. Don't just give me the final answer. Help me do it myself, and check my work when I share it.
I'm a parent helping my child (about 8 years old) with a lesson called "Ang tatlong pamilya ng panganib ng AI sa trabaho" from the course "AI Risk at Work: privacy, bias at maling paggamit sa totoong buhay". Here's what the lesson says: Isipin ang AI sa trabaho na parang bagong katulong sa kusina. Baka mailabas niya ang sikretong recipe ng pamilya (privacy), baka hindi niya mapansing hindi patas ang trato niya sa ilang customer (bias), o baka may manlinlang sa kanya para buksan ang pintuan sa likod (seguridad at maling paggamit). Kapag alam mo ang tatlong uri ng gulo, alam mo kung saan titingin. The activity: Gumawa ng isang-pahinang listahan ng mga gamit ng AI ng team mo na may uri ng impormasyon at pamilya para sa bawat isa, at bilugan ang tatlong uunahing suriin. Please explain this so an 8-year-old understands: short sentences, a fun everyday example, and no hard words. Then give me 3 simple questions I can ask my child to check they understood, and a way to do the activity together, one tiny step at a time.
Sources
- Canadian Centre for Cyber Security, Generative artificial intelligence (AI) (ITSAP.00.041): www.cyber.gc.ca/en/guidance/generative-artificial-intelligence-ai-itsa
Privacy sa trabaho: ano ang inaasahan ng mga regulator
This lesson is part of full access: every course and every level for one payment.
Kapag may tumagas: mga privacy breach
This lesson is part of full access: every course and every level for one payment.
Bias sa praktika: mga desisyon tungkol sa mga tao
This lesson is part of full access: every course and every level for one payment.
Seguridad at maling paggamit: mga panlilinlang, scam at masamang code
This lesson is part of full access: every course and every level for one payment.
Simpleng AI risk check
This lesson is part of full access: every course and every level for one payment.
Mga do at don't na patakaran para sa team mo
This lesson is part of full access: every course and every level for one payment.
Final project
This lesson is part of full access: every course and every level for one payment.
Quiz
Pangalanan ang tatlong pamilya ng panganib na ginamit sa kursong ito.
Privacy, bias, at seguridad o maling paggamit.
Ayon sa mga gabay ng mabuting gawi sa AI, kailan dapat ilagay ang personal na impormasyon sa prompt?
Kapag awtorisado at kailangan lang; gumamit ng de-identified na datos kung hindi kailangan ang personal na impormasyon.
Sa ilalim ng komersyal na terms ng Anthropic, sino ang data controller at sino ang processor?
Ang customer ang controller; ang Anthropic ay ang processor.
Kailan dapat iulat ng organisasyon ang breach sa regulator at abisuhan ang mga tao?
Kapag may real risk of significant harm; tingnan ang mga patakaran at deadline ng sarili mong bansa.
Anong dalawang bagay ang pinagbabatayan ng real risk of significant harm?
Gaano kasensitibo ang impormasyon at gaano kalamang magamit ito nang mali.
Ano ang dapat gawin sa mga tala ng data breach?
Magtago ng tala ng bawat breach, umabot man o hindi sa harm threshold, hangga't hinihingi ng mga patakaran ng bansa mo.
Maraming bansa ang may maikling deadline para abisuhan ang regulator ng breach. Ano ang dapat mong gawin?
Alamin nang maaga ang deadline ng bansa mo at mag-ulat agad sa loob nito.
Sino ang dapat gumawa ng huling desisyon kapag tumutulong ang AI sa pag-hire o pagbibigay ng grado?
Isang taong may pangalan, hindi ang AI.
Ano ang prompt injection?
Mga nakatagong adversarial na tagubilin sa content na pinoproseso ng AI, na puwedeng kumuha ng kontrol sa kilos nito.
Ano ang ligtas na panimulang patakaran para sa AI tool na kayang gumawa ng mga aksyon?
Magsimula sa read-only at hingin ang human approval bago ito magpadala, magbura, magbayad o mag-publish.
Final exam
This lesson is part of full access: every course and every level for one payment.
Certificate
This lesson is part of full access: every course and every level for one payment.