Gedachten over scheppen en originaliteit in een automatiserende wereld.
ChatGPT heeft het toneel betreden met veel enthousiasme. Kinderen en volwassenen hebben de prompt volgetypt met alles wat ze konden bedenken. De verbeelding op hol. De mogelijkheden eindeloos. De horizon grenzeloos.
Kijkend naar mijn kinderen die met vrienden ChatGPT inzetten om kennisvragen op te lossen — en vervolgens naar Yusuf Mehdi die de nieuwe Bing-features demonstreert — valt me één grote roze olifant op.
Het voorbeeld: Q3-cijfers van GAP Inc. en Lululemon vergelijken, nadat eerst de kwartaalverklaring van GAP Inc. is samengevat. Mooi voorbeeld van tijdbesparing. Tegelijk een schoolvoorbeeld van de belangrijkste beperking.
Na alle euforie: een aantal onderbelichte problemen die niet opduiken in de opgewonden nieuwsartikelen, de posts van luie coders of de stukken van SEO-marketeers. Ja, je SEO is nu makkelijk. Coderen schuift van ambacht naar weten welke vraag je stelt. Ik snap het.
De drogreden
Bij een overvloed aan trainingsdata wordt de kans op een juist antwoord een functie van kwantiteit-afgeleide nauwkeurigheid. Met petabytes aan data op het web is die overvloed er. Maar fouten — “hallucinaties” — zijn reëel. Er wordt gewerkt aan detectie. Tot die tijd: check je teksten zelf.
De grootste drogreden is een andere: dat je hier nieuwe inzichten zou vinden. Mijn stelling: de huidige iteratie van machine learning en AI is intrinsiek gebonden aan wat al bekend is. Geen entropie. Geen informatie. Geen verrassing. Wie iets dat nieuw leest interpreteert als nieuw zijnd, vergist zich grondig.
De grote diefstal
Die stelling is op drie manieren problematisch.
-
We gaan naar school. We leren. We lezen wat bekend is. En toch komt het vermogen om nieuwe probleemstellingen te genereren — die op hun beurt nieuwe oplossingen, ontwerpen of teksten voortbrengen — voort uit een menselijk vermogen: verbazing, angst, inspiratie, liefde. Uit dat gevoel ontstaat iets nieuws. Ongevraagd. Over een miljoen jaar schept ChatGPT nog niet. De prompt wacht eeuwig geduldig. De engine kijkt nooit vol verbazing naar zijn eigen tekst en begint vanuit eigen roeping opnieuw. Hij kan niet geïnspireerd raken. Ook niet door zijn eigen hallucinaties. (Jammer? Gelukkig?)
-
Deze engines toestaan om output — de “compositie” — los te koppelen van de oorsprong, is plagiaat. Elke output van deze modellen komt uit gepubliceerde kennis. Elk land dat auteursrecht kent en respecteert, verbiedt massaal plagiaat. Bing een pdf laten samenvatten voor privégebruik is geen probleem. ChatGPT een recept of reisschema laten opstellen wél: de bron blijft ongenoemd. Waar de oude Bing en Google nog verwezen naar de herkomst, is die link nu verborgen.
-
Het diepste probleem: output van deze engines stroomt terug de dataset in. Direct, of via een menselijke bewerking. Facebook-tijdlijnen werden herkend als zelfverwijzende ad-stromen die de gebruiker een statisch konijnenhol in trokken. TikTok doet dat tot het uiterste. Dezelfde dynamiek speelt hier. Als het werk van SEO’ers, informatieanalisten en business analisten wordt versterkt door machinekracht, ontstaat er meer content van een klein aantal hergebruikende algoritmen. Een divers landschap slaat om in een statisch landschap. De grote diefstal is die van originaliteit en verrassing.
Het licht
Dat klinkt donker. Een deel ervan is dat ook. Maar ik ben ook optimist.
De geschiedenis laat zien dat de drang tot schaalvergroting telkens een volgende stap in mechanisatie en industrialisatie voortbracht. Output maximaliseren en productie optimaliseren heeft bij elke stap iets van de kunst van het scheppen afgebroken. En telkens waren er makers die begrepen hoe ze deze nieuwe mogelijkheden in hun voordeel konden keren — en een nieuw normaal bouwden.
De kansen zijn er. Ik ben zelf begonnen deze engines in mijn eigen werk te integreren. Onderdeel van het mens-zijn: het is moeilijk om niet te scheppen.