chatten met Napoleon

chatten met Napoleon

Sam Altman

Directeur OpenAI

eind november 2022 tweet

ChatGPT

Een generatieve AI-tool die menselijke taal genereert en in staat is om vragen te beantwoorden en creatieve inhoud te genereren. 

Nieuwe mijlpaal in de geschiedenis. 

generatieve AI stelt de gebruiker in staat om snel nieuwe inhoud te genereren op basis van input. de tool levert output. 

Het geheim zit in de manier waarop deze modellen gebruikmaken van neurale netwerken om patronen te herkennen en zo nieuwe inhoud te genereren. 

Machine learning

Gedachtenexperiment

Foundation-modellen (bijvoorbeeld chatGPT-4)

Vergelijkbaar met de basisvaardigheden zoals lezen, schrijven en rekenen = nodig om verschillende taken uit te voeren.

Aandacht volstaat

stel je voor dat een AI-model (de machine) een student is die over een nieuw onderwerp moet leren. Bij ongecontroleerd leren studeert deze AI-student volledig op eigen houtje, zonder instructie of uitleg van een docent. Er is nergens aangegeven wat het 'juiste' antwoord moet zijn; de AI-student probeert zelfstandig de kernideeën en patronen uit de studiematerialen te halen. Bij semigecontroleerd leren krijgt de student een beetje hulp van de docent, maar moet nog steeds veel zelf ontdekken. Dit laat zien dat ongecontroleerd leren veel meer werk bevat. Ook het studiemateriaal moet deze student allemaal zelf selecteren. 

Een machine kan dus ongecontroleerd of semigestructureerd leren en daarbij gelabelde als ongelabelde data bestuderen. 

Dit kan worden toegepast op de gegeven input. 

Dankzij google (2017, translate) zijn er aandachtsmechanismes ontwikkeld. die zorgen ervoor dat het systeem begrijpt welke woorden belangrijk zijn in de zin.  Hun innovatieve techniek vormt de spil van de taalmodellen. Dit wordt ook wel NLP (natural language processing) genoemd. NLP is een techniek waarmee machines menselijke taal kunnen begrijpen, interpreteren en genereren. Het komt erop neer dat een taalmodel voorspelt wat het volgende woord is. 

Gevolg

nieuwsberichten, webinars, blogs, meningen etc. 

Scholieren en studenten die hun werk door de chatbot lieten doen. 

100 miljoen gebruikers in 2 maanden
(tiktok deed daar 9 maanden over)

Vragen:

Hoe kan een chatbot dit soort dingen?

Waarom spuugt hij soms klinkklare onzin uit?

Wat betekent dit voor onze maatschappij en onze publieke waarden?
Hoe kan de academische integriteit worden gewaarborgd?

Beleid

Richtlijnen met betrekking gebruik AI in het onderwijs. 

Straffen van gebruikers OF stimuleren van verantwoord gebruik.

Kritisch denken.
Toepassing bij het leerproces.
Ontwikkelen van opdrachten die uniek en persoonlijke inzichten geven.

We moeten er wat mee!

Compleet nieuwe manier van denken en werken, waarvan je je vaak nog geen voorstelling kan maken. 

Een brede, maatschappelijke dialoog over de rol van AI in het onderwijs is essentieel!

Voordelen Generatieve AI

gepersonaliseerd onderwijs

snelle feedback

ontwikkeling van mediawijsheid

bevorderen van inclusiviteit en diversiteit

creatiever onderwijs

werkdrukverlaging

Nadelen Generatieve AI

ethische vraagstukken

bedreiging academische integriteit

het belang van kennis en schrijfvaardigheid

privacyvraagstukken

uitdagingen rondom intellectueel eigendom

Gedachtenexperiment

pil 80 - 120 - eeuwig leven

Alan Turing

geboren in Londen, 1912. In de turingtest staat de hoofdvraag centraal: 'kunnen machines denken?' (vijf minuten kunnen praten zonder te beseffen dat je met een machine praat. Dit heeft wetenschappers uitgedaagd om de grenzen van wat mogelijk was te verleggen op het gebied van AI. 

Filosoof John Searle bekritiseerde de turingtest met zijn gedachten experiment 'Chinese kamer' (zonder ramen, chinese instructies, persoon kan toch intelligente antwoorden geven, instructies volgen zonder daadwerkelijk begrip van de Chinese taal). 
Kritiek vanwege de focus op taal en het uitsluiten van context of denkprocessen. Vrij weinig te maken met intelligentie en denken. 

Toch heeft de test ervoor gezorgd dat veel wetenschappers stil hebben gestaan bij de vraag wat ons menselijk maakt en AI-ontwerpers geinspireerd om te streven naar AI-systemen die op een meer natuurlijke en menselijke manier interactie hebben.

Mythes

1. AI benadert menselijke intelligentie.
2. AI heeft (of ontwikkelt) een bewustzijn.
3. AI neemt onze banen over.
4. AI-robots gaan over mensen regeren. 

1. Het menselijk brein is nog steeds ongeëvenaard in veelzijdigheid en creativiteit. AI-systeem kan met de juiste instructie ideeën met elkaar verbinden, maar echte nieuwe ideeën die breken met de bestaande regels kan het nog niet. De creativiteit van AI is meer een digitaal verlengstuk van het menselijke. Dit is belangrijk om te begrijpen, omdat dit een sleutel is die het onderwijsproces benadrukt. 

2. Ondanks de vergelijking met de neurale netwerken van de mens zijn de cognitieve processen niet te repliceren. Het gevaar zit hem in het verkeerd gebruik. Zeker in het onderwijs waar je te maken hebt met kwetsbare kinderen.

3. leerkrachten blijven altijd cruciaal. AI zal meer ter ondersteuning worden ingezet. De docent heeft zicht op de context van het kind en kan alle middelen samen brengen die nodig zijn om het kind zo goed mogelijk te begeleiden. En niet vergeten het sociale contact. 

4. Mensheid nogal last van antropomorfisme (het toekennen van menselijke eigenschappen aan dingen en dieren), maar dat maakt een chatbot nog een mens. AI kan niet buiten eigen code treden. Daarnaast kan er regulering plaats vinden d.m.v. wetgeving. 
Zie de AI-robots vooral als nuttige assistenten. Je kan je meer zorgen maken over mensen die kwaadwillend het systeem inzetten dan cyborgs die de wereld gaan overnemen.