Les 4 - AI-veiligheid en -ethiek

• Applicatie- en mediaontwikkelaar
• MBO
• Studiejaar 1

Python intro

Programming basics-II

Les 3 / Week 7a

AI-veiligheid en -ethiek

FUT: Future Tech

Les 4

Deze les

• AI-veiligheid en -ethiek.
• Belang van balans tussen AI-voortgang en ethiek benadrukken.
• Belangrijkste zorgen zoals vooroordelen, privacy en banenverlies bespreken.
• Bronnen van vooroordelen in AI en strategieën voor vermindering behandelen.
• Ethische dilemma's in AI, zoals autonome wapens en deepfakes, verkennen.

Ethiek

"Ethiek is de wetenschappelijke of systematische studie van de moraal. Anders gezegd is ethiek 'kritisch nadenken over wat (moreel) goed is om te doen'."

Bron: https://www.knmg.nl/advies-richtlijnen/ethische-toolkit/verdiepen/begrippen-2/ethiek-6

Het Belang van AI-veiligheid en -ethiek

• De impact van AI op de samenleving.
• De noodzaak van verantwoorde AI-ontwikkeling.

• Begin met een welkom aan je studenten en een korte samenvatting van wat we in de vorige les hebben behandeld.
• Leg uit dat de les van vandaag volledig gewijd is aan het belang van AI-veiligheid en -ethiek.
• Gebruik de illustratie van een weegschaal met AI- en ethische symbolen om te benadrukken dat we een balans moeten vinden tussen AI-vooruitgang en ethische overwegingen.

AI Veiligheidszorgen

• Vooroordelen en discriminatie.
• Schending van privacy.
• Banenverlies.

• Bespreek de belangrijkste zorgen met betrekking tot AI-veiligheid.
• Werk elk punt uit: vooroordelen en discriminatie, schending van privacy en banenverlies.
• Moedig studenten aan om na te denken over hoe deze zorgen de samenleving kunnen beïnvloeden.

Het Begrijpen van Vooroordelen in AI

Definitie van vooroordeel (Engels: bias).

"Vooroordelen zijn meningen over een persoon of groep, die meestal negatief zijn en gebaseerd op stereotypen"

Bron: https://publicaties.mensenrechten.nl/file/da9636c0-ce34-45a6-a3e6-2a9d7906678c.pdf

Begin met het opfrissen van het concept van vooroordeel en de relevantie ervan in AI.

Voorbeelden van door vooroordelen beïnvloede AI-beslissingen.

Meer voorbeelden: https://www.geeksforgeeks.org/5-algorithms-that-demonstrate-artificial-intelligence-bias/

Geef voorbeelden van door vooroordelen beïnvloede AI-beslissingen om het concept duidelijker te maken.

Moedig studenten aan om na te denken over mogelijke gevolgen van vooroordeel in AI.

Het Aanpakken van Vooroordelen in AI

• Het verzamelen van diverse gegevens.
• Regelmatige controle van AI-modellen.
• Regulatie door overheden
  

https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

Hoe kunnen we vooroordelen in AI verminderen?

AI en Persoonlijke Privacy

• AI en gegevensverzameling.
• Impact op individuele privacy.

• Bespreek de relatie tussen AI en persoonlijke privacy.
• Leg uit hoe AI vaak gepaard gaat met het verzamelen en analyseren van gegevens, wat privacyproblemen kan veroorzaken.
• Moedig studenten aan om de afwegingen tussen AI-voordelen en mogelijke schendingen van de privacy te overwegen.

AI en Persoonlijke Privacy

Data Verzameling en Profilering:

Voorbeeld: Bedrijven en adverteerders kunnen AI-systemen gebruiken om uitgebreide profielen van individuen op te bouwen op basis van hun online activiteiten, zoekgeschiedenis en sociale media-gegevens. Dit kan leiden tot gepersonaliseerde advertenties en diensten, maar ook tot inbreuk op de privacy.

AI en Persoonlijke Privacy

Surveillance en Tracking:

Voorbeeld: Overheden en organisaties kunnen AI-aangedreven surveillancecamera's inzetten om mensen te volgen in openbare ruimtes zonder hun toestemming. Deze surveillance kan de bewegingsvrijheid en privacy van individuen beperken.

AI en Persoonlijke Privacy

Deep Learning en Gezichtsherkenning:

Voorbeeld: Gezichtsherkenningsalgoritmen kunnen gezichten identificeren en volgen in real-time, wat kan leiden tot inbreuk op de privacy van mensen, zelfs zonder hun medeweten. Dit heeft geleid tot zorgen over massasurveillance.

AI en Persoonlijke Privacy

Datalekken en Beveiligingsrisico's:

Voorbeeld: AI kan worden gebruikt om gevoelige gegevens te analyseren en identificeren, maar als deze gegevens niet goed worden beschermd, kunnen ze worden gestolen of gelekt, wat resulteert in ernstige privacyproblemen voor individuen.

AI en Persoonlijke Privacy

Algoritme-gebaseerde Beslissingen:

Voorbeeld: AI-algoritmen worden steeds vaker gebruikt voor besluitvorming in sectoren zoals financiën en gezondheidszorg. Als deze algoritmen fouten bevatten of vooroordelen hebben, kan dit leiden tot discriminatie en inbreuk op de privacy van bepaalde groepen.

AI en Persoonlijke Privacy

Deepfakes en Misbruik van Identiteit:

Voorbeeld: Deepfake-technologie maakt het mogelijk om realistische nepvideo's te maken waarin iemands gezicht en stem worden gebruikt om misleidende inhoud te creëren. Dit kan leiden tot misbruik van de identiteit van individuen en schade aan hun reputatie.

AI en Persoonlijke Privacy

Gebrek aan Transparantie en Informatiecontrole:

Voorbeeld: Veel AI-algoritmen en beslissingsprocessen zijn niet transparant, waardoor mensen geen inzicht hebben in hoe hun gegevens worden gebruikt of hoe beslissingen over hen worden genomen, wat de controle over hun persoonlijke informatie beperkt.

Ethische Dilemma's in AI

• Autonome wapens.
• Deepfakes.

• Leg de mogelijke gevolgen en implicaties van deze technologieën uit.
• Moedig studenten aan om kritisch na te denken over de ethische uitdagingen die AI met zich meebrengt.

De Kracht van Verantwoorde AI

Verantwoorde AI kan de wereld transformeren

Jouw Rol in de Toekomst van AI

Jij hebt de kracht om positieve verandering te leiden.

Blijf Nadenken

Blijf nadenken over de ethische en sociale impact van AI.