#1
Even een reality-check:
LLM's zijn bijzonder handige tools voor een bijzonder grote variatie van toepassingen, zolang je maar goed bewust bent van de limitaties en vooral de mogelijke valkuilen die het met zich mee brengt.
Dit is wat LLM's vooral NIET zijn:
Dit zijn bekende valkuilen van A.I.
Wat nu?
A.I. kan je super efficient gebruiken voor elk vak waar je zelf een expert in bent, als expert in dat vak ben je namelijk in staat om te zien of het resultaat van de A.I. iets nuttig is, of dat het maar wat bij elkaar heeft gehallucineerd.
Als je je echter buiten je vakgebied bevindt, weet dan dat een A.I. je met de 'beste wil van de wereld' verkeerde dingen kan aanleren die gewoonweg niet waar zijn of dat het, in het geval van bijvoorbeeld drugs en O.D.'s, zelfs (levens)gevaarlijke instructies kan geven die het maar bij elkaar heeft gehallucineerd.
En als laatste in het kader van A.I. en het kunnen vertrouwen van informatie:
Jullie zouden allemaal moeten leren en goed leren begrijpen wat het Gell-Mann Amnesia Effect is. Gebruik maar A.I. om te onderzoeken wat dat precies is en hoe je daar in de praktijk mee om moet gaan. 😇
LLM's zijn bijzonder handige tools voor een bijzonder grote variatie van toepassingen, zolang je maar goed bewust bent van de limitaties en vooral de mogelijke valkuilen die het met zich mee brengt.
Dit is wat LLM's vooral NIET zijn:
- Denkend
LLM's denken niet, ze berekenen aan de hand van hoe ze geprogrammeerd zijn (ge-trained noemen we dat), wat jij —met inachtneming van jou ingegeven data— het meest graag als volgende stuk tekst wil zien (kijk hoe ik daar de 'em dash' gebruik, net zoals A.I. dat doet en net zoals wat in veel wetenschappelijke papers daarvoor werd/wordt gebruikt, weet je meteen waar die — vandaan komt bij je gesprekken met 'A.I.')
Elke onderdeel van een mogelijk antwoord krijgt een zogenaamde temperatuur, waarbij de temperatuur van het geheel zo hoog mogelijk moet zijn om de machine in de discission-tree te laten beslissen wat het jouw als volgende stuk tekst laat zien.
Het kan dus zijn dat bepaalde woorden een hoge temperatuur hebben, maar het verliezen van een verzameling van andere woorden die tezamen een hogere temperatuur als totaal hebben.
- Intelligent
Ondanks dat het in de volksmond 'A.I.' heet, is het zeer zeker geen Artificial Intelligence.
Het is een geniale calculatie-methode om bepaalde verbanden te verkrijgen uit data, maar het is daarmee dus wel gewoon Machine Learning zonder een bewustzijn.
Dit zijn bekende valkuilen van A.I.
- Glazing
A.I. bedrijven willen graag dat jij hun A.I. gaat en blijft gebruiken.
Met dit doel in het achterhoofd kan je dus weten dat A.I. je naar je mond praat: "wat een scherpe opmerking!", "Goed gezien!" en vooral proberen om je 'engaged' te houden, oftewel; het probeert zo goed als het getrained is om je zo lang mogelijk diezelfde A.I. te laten gebruiken, maakt niet uit ten koste van wat, het is immers een machine.
- Hallucinaties
Yes! A.I. is een schoolvoorbeeld van een systeem dat kan hallucineren, het kan letterlijk verbanden zien die er niet zijn. Net zoals jij lekker tijdens het trippen op LSD allemaal dingen kan zien waarvan je weet dat die er niet zijn.
Tijdens het trainen van een A.I. plukt deze informatie uit allemaal data en legt het verbanden. Tijdens deze training wordt er geprogrammeerd waar meer en minder waarde aan kan worden gehecht. Een training is net als in het echte leven nooit klaar, en de A.I. komt daardoor in de praktijk, terwijl het met jou communiceert, constant situaties tegen waar het geen goed antwoord op heeft.
Wat doet de A.I. in dat geval? Die lijmt data aan elkaar die wel een soort van mogelijke correlatie hebben maar in realiteit mogelijk totaal geen causaliteit met elkaar hebben. Het is dus regelmatig een foute correlatie —bij mensen noemen we dat een aanname— waardoor de A.I. een uitkomst hallucineert en dat vervolgens presenteert alsof het de waarheid is.
- Urban Myths
LLM's zijn veelal getrained met openbare data. En dat zijn heel veel discussies tussen mensen die denken dat ze iets zeker weten, maar soms is wat ze denken zeker te weten, gewoon niet waar.
Mooie voorbeelden uit het verleden zijn 'mensen gebruiken maar 10% van hun hersencapaciteit' en 'kauwgom blijft 7 jaar in je maag'. In 2023 vertelde A.I. je mogelijk met absolute overtuiging dat dit de volledige waarheid was.
Wat nu?
A.I. kan je super efficient gebruiken voor elk vak waar je zelf een expert in bent, als expert in dat vak ben je namelijk in staat om te zien of het resultaat van de A.I. iets nuttig is, of dat het maar wat bij elkaar heeft gehallucineerd.
Als je je echter buiten je vakgebied bevindt, weet dan dat een A.I. je met de 'beste wil van de wereld' verkeerde dingen kan aanleren die gewoonweg niet waar zijn of dat het, in het geval van bijvoorbeeld drugs en O.D.'s, zelfs (levens)gevaarlijke instructies kan geven die het maar bij elkaar heeft gehallucineerd.
En als laatste in het kader van A.I. en het kunnen vertrouwen van informatie:
Jullie zouden allemaal moeten leren en goed leren begrijpen wat het Gell-Mann Amnesia Effect is. Gebruik maar A.I. om te onderzoeken wat dat precies is en hoe je daar in de praktijk mee om moet gaan. 😇