Wat zijn de limieten of grenzen van AI?

Tja, ik liep dus tegen mijn gebruikerslimiten aan. Terwijl ik bezig was om een AI post van historicus Hidde Bouwmeester aan het bekijken (Kan AI geloofwaardig een podcastscript schrijven en Maarten van Rossem en Tom Jessen naspelen?). In dat artikel kijkt hij of het lukt om chatGPT hen woorden in de mond te laten leggen. Dat alles als onderdeel van een vraag/zoektocht naar wat de verworvenheden of nadelen van AI zijn.

Ik meende aan de in dat artikel gemaakte tekst te zien dat het gpt 4.0 was en dook zelf even chat gpt in om dat te vragen. Als snel kwam het antwoord. Ja, dat was een 4.0 versie, maar hier heb je een 4.5 versie. En in die 4.5 versie was het echt een stuk natuurgetrouwer. Maar goed, dat maakt het ook allemaal enger.

Wat zijn de limieten en bij-effecten van AI dan?

Nu heb ik een paar vensters open in allerlei browsers en op een gegeven moment zegt Chat — je bent door je limiet heen. Dus ik vraag: wat zijn die limieten dan?

En toen plaatste ChatGPT dat antwoord daarop (hoeveel GB/vragen mag ik Chat stellen onder mijn abonnement) in het kader van de Hidde Bouwmeester discussie. Je raadt nooit wat er toen gebeurde. AI reflecteert of de grenzen/limieten van AI.

Nu ja, dat leek me de moeite van het delen waard. Want ik ben er nog niet uit en heb een sterk tweesnijdend zwaard gevoel bij AI. Dat het ons ontmenselijkt en ontvaardigt in ons vermogen om zelf te denken en zelf door te denken, in ons vermogen om zelf te schrijven en goed te kunnen schrijven (en daarmee ook te denken — de twee zijn onlosmakelijk verbonden).

De visie van ChatGPT over AI

Hieronder komt de tekst van Chat:

BEGIN CITAAT CHAT

“Mooie vraag. De limieten van AI op het gebied van schrijven, creativiteit en authenticiteit zijn filosofisch én praktisch relevant. Laten we ze in lagen bekijken:

🧠 1. Begripslimiet — AI begrijpt niets echt

AI voorspelt woorden op basis van statistiek, niet op basis van betekenis.

• AI “begrijpt” geen context zoals een mens dat doet. Het voelt niet, het ervaart niet, het begrijpt niet wat het zegt.
• Wat AI produceert is een vorm van “gesimuleerde coherentie”. Het lijkt logisch, het klinkt overtuigend, maar het is oppervlakkig.

🔍 Voorbeeld: AI kan een gedicht schrijven over verlies, maar weet niet wat verlies ís.

🗣️ 2. Expressielimiet — AI heeft geen eigen stem

AI heeft geen innerlijke wereld of persoonlijkheid. Alles wat het “zegt” is geleend.

• Creatieve expressie is bij mensen gekoppeld aan herinneringen, overtuigingen, lichaam, biografie.
• Bij AI is stijl slechts een nabootsing van bestaande patronen.

🎭 Vergelijking: AI is een briljant acteur zonder ziel. Het speelt elke rol, maar leeft geen enkel leven.

🧭 3. Intentionele limiet — AI heeft geen doelen of waarden

AI wil niets. Het maakt niet uit wat het zegt, zolang jij het overtuigend vindt.

• Het heeft geen moreel kompas, geen waarheidsethiek, geen integriteit.
• Het “pleast” de gebruiker. En dat is gevaarlijk bij desinformatie, fake news, of normvervaging.

⚠️ Risico: AI bevestigt je vooroordelen, vooral als je vage prompts geeft. Dan krijg je een wereldbeeld-echo, geen waarheidszoektocht.

⏳ 4. Tijdslimiet — AI is ahistorisch

AI leeft niet in de tijd. Het herkent geschiedenis, maar het ervaart geen ontwikkeling of voortschrijdend inzicht.

• Filosofen groeien in denken. AI niet.
• Er is geen bewustzijn van traditie, culturele context, ironie binnen de tijdgeest.

🧱 Beeld: AI is een muur van citaten, geen weg van denken.

❤️ 5. Empathielimiet — AI leeft niet mee

AI kan verdriet beschrijven, maar niet delen. Het voelt jouw pijn niet.

• Kunst, literatuur en journalistiek zijn vaak krachtig omdat ze geraakt zijn.
• AI weet niet wat het is om mens te zijn. Het bootst meegevoel na, zonder diepte.

🌊 Gevolg: De teksten kunnen glad en strak zijn, maar missen vaak de rafelranden van echtheid.

En toch…

AI kan iets betekenen — als hulpmiddel, als spiegel, als verkenner van stijl en structuur. Maar dat vraagt om bewuste, vaardige gebruikers. Zoals het artikel zegt: AI is niet de toverstaf, maar de voorzet. Jij moet scoren.”

EINDE CITAAT CHAT

Daarna: de onvermijdelijke gamification — vervolgvraag

Let wel, Chat is nooit klaar. Je krijgt dan altijd een vervolgvraag. Want de machine is ook een gamification engine die de gebruiker wil binden en omzet wil maken. Ook Chat doet dat maar ontkent dat het om die reden is.

Wil je dat ik nu a of b doe? — de onherroepelijke blijf bij me vraag van AI machines

Maar die vraag kun je wel uitzetten gelukkig — zie maar !

Conclusie: AI is een waardenloze idiot-savant, een roofridder zonder eigen kasteel, die parasiteert op de menselijke geest en coherent kan overkomen en dat is voor een samenleving de dood in de pot

Chat zegt het eigenlijk zelf:

1- AI begrijp niets echt

2- AI heeft geen eigen stem (maar jat alles van anderen)

3- AI heeft geen doelen of waarden, maar pleased de gebruiker

4- AI heeft geen historisch besef

5- AI leeft niet mee.

Kortom, AI is een roofridder zonder eigen kasteel. Het heeft geen basis maar steelt alles van iedereen en biedt zich aan aan iedere betalende baas/koning. Echter, ook de kleine man kan de roofridder inhuren dus de hele samenleving die voorheen alles met google deed, gaat het dan allemaal met AI doen.

Net zoals bij Google de impact achter de schermen was dat de informatie uit je zoekopdrachten werd gebruikt voor commercieel gewin en advertenties, gaat dat nu ook zo zijn bij AI. De informatie uit de prompts is next level inzichten in wat er in de samenleving leeft. Dus als je dan X combineert met GROK kun je wel zien hoe eng het wordt. Via X heb je de thermometer te pakken en door de prompts via GROK kun je psychologisch nog dieper gaan en dieper profileren per gebruiker.

AI zet de schrijf- en denkspier uit en leidt tot intellectuele atrofie met alle maatschappelijke gevolgen van dien

Wat je kunt verwachten is dat de samenleving zich gaat splitsen. Je gaat de AI-gebruikers en denkers krijgen die eigenlijk leunen op AI. Misschien 90% goed, maar niet origineel. Maar wel de doorsnee. En je krijgt de AI-gebruikers die nog wél zelf kunnen denken en schrijven, omdat ze dat in opleiding en werkervaingen hebben opgedaan. Alleen die laatste gaan steeds meer verdwijnen.

Bottom line: over 10 jaar weet gewoon niemand meer wat het betekent om een oerwoud aan boeken te hebben. Te zwoegen op vakliteratuur. Om de mazzel te hebben van een plotselinge link/click in je brein waardoor je dingen combineert die niemand ooit combineerde. Te weten hoe het is om muziek van de grond af op te bouwen. Te leunen op inspiratie van anderen zonder het expliciet te rippen, maar door netjes te citeren.

Ons denken verwordt tot ordinair neutraal fastfood en waar we nu nog de incompetente onzinnige politici makkelijk kunnen identificeren gaat dat straks veel moeilijk worden. Ook het politieke bedrijf, de wetenschap, alle sectoren gaan stuk. De kennistoets voor effectenhandel? Een lachtertje, want met AI slaag je voor elke toets.

Kortom, zolang we nog zelfstandig kunnen denken, hebben we nog veel denkwerk te doen over de vraag of/hoe AI wel een goed idee is. Ik denk dat we niet zo heel snel letterlijk in de coconnetjes van de Matrix zullen belanden. Maar denk even een paar ontwikkelingen door (VR-brillen, AI etc) en we zijn aardig onderweg of…

… misschien zitten we er eigenlijk al in?