Er wordt gezegd dat de huidige opkomst van AI en alles wat er mee samenhangt vergelijkbaar is met de introductie van internet, of zelfs met de industriële revolutie. Maar dan in een hoger tempo. Het is vooral de ogenschijnlijke magie van het moeiteloos in alle talen correct converseren van ChatGPT en familieleden die de aandacht en publiciteit heeft overweldigd. Zelf heb ik in het verleden zowel professioneel als uit persoonlijke interesse de ontwikkelingen, met name rond deep learning en taalmodellen, wel redelijk goed gevolgd maar ik heb me er niet grondig genoeg in verdiept om te begrijpen hoe er nu opeens zo’n kantelpunt kon ontstaan.

Dat ga ik nu inhalen. Ik ga niet alleen wat studeren maar ook op deze site verslag doen van mijn verkenning van het gebied van natuurlijke taal verwerking (NLP), large language models (LLM) en kunstmatige intelligentie (AI) toepassingen die ermee samenhangen, zoals genoemde ChatGPT. 
Hoewel ik een goede basiskennis heb is er veel onbekend terrein — dat maakt het voor mij persoonlijk interessant genoeg om het verslag bij te houden. Wie mee wil lezen is van harte welkom.

De inhoud van de site is tweeledig: tijdgebonden en wellicht vluchtige notities over wat ik tegenkom door zelf te zoeken en te studeren en over wat de actualiteit biedt (onder de menukeuze Blog) resp. artikelen die interessant genoeg zijn om te bewaren en terug te vinden (onder de keuze Artikelen). Soms zal het wellicht wat technisch en wiskundig worden, maar ik zal mijn best doen om het goed uit te leggen — vooral aan mezelf.

Alle teksten, behalve citaten, maak ik zelf. In de geest van het onderwerp laat ik mij schaamteloos bijstaan door Perplexity.ai, een zoekomgeving die ChatGPT gebruikt. Perplexity maakt samenvattingen van zoekresultaten die je werkelijk, nou ja, perplex doen staan. Die zal ik gebruiken en er keurig melding van maken — dat is onderdeel van de zoektocht zelf.

De ondertitel van de site — Op pad in AI — verwijst met een knipoog naar de reisblogs die Marianne en ik al vele jaren maken. Daar staan foto’s van echte landschappen en steden waar we geweest zijn. De afbeelding bovenaan deze site is van een niet bestaand landschap, letterlijk onbekend terrein. Het fotorealistische beeld is op mijn aanwijzing gemaakt door Dall-E, ook zo’n spraakmakende toepassing van AI.

Ik ga op pad om te begrijpen welke kantelpunten in de ontwikkeling van AI de wereld recent in rep en roer hebben gebracht, maar ik sta nog aan het begin.
Sommige rep of roer moet je misschien met een korrel zout nemen, zoals de oproep tot een moratorium voor doorontwikkelen of de in manifest verwoorde vrees voor het einde van de mensheid. Op dit terrein is er trouwens genoeg dystopische concurrentie.
Er is wel is iets serieus gaande.

Je ziet het aan de sterk toegenomen omvang van de publiciteit in de media. Juist ook in de traditionele kanalen — en in de verschuiving van de redactionele focus van klein bericht in de techniekrubriek naar groot artikel in primaire nieuwskaternen en hoofdredactioneel commentaar. De kennis daar over het onderwerp lijkt vooralsnog niet heel groot te zijn, er wordt veel van elkaar geciteerd of geparafraseerd. Nogal kritiekloos, zodat de hype snel aangezwengeld raakt.

Je merkt het ook aan de snelle verschuiving van succes en falen tussen de grote partijen in Tech en de opkomst van nieuwe spelers. Zonder disruptie geen verandering en innovatie zoals men zegt. Zo zou bijvoorbeeld het business model van de zoekmachine van Google wel eens dramatisch kunnen instorten als ze niet snel een alternatief vinden voor hun inkomsten uit gesponsorde zoekresultaten, microtargeting en allerlei andere manieren om met de persoonlijke data van hun gebruikers geld te verdienen. Daar kom ik later nog op terug want Google heeft met zekerheid de technologie om inhoudelijk een grote rol te kunnen spelen. Maar ja, dat verdienmodel…

Er is bij niemand twijfel over de impact van taalmodellen zoals Chat GPT en andere AI-modellen die met natuurlijke taal van hun gebruikers uit de voeten kunnen en ook in natuurlijke taal zinnige antwoorden op hun vragen kunnen geven. In tientallen talen zelfs. Voor de wanhopige gebruiker van Siri of Alexa, van chatbots van webwinkels, of van tekortschietende vertaalapps kwam dat als een godswonder uit de lucht vallen. Laten we daarom aan de kant van de taal en de taalmodellen beginnen.

De vloeiende en grammaticaal correcte resultaten van een conversatie met ChatGPT worden letterlijk per woord opgebouwd — je ziet een antwoord woord voor woord op je beeldscherm verschijnen en dat is niet een trucje voor de vormgeving. Soms worden woorden of hele zinnen weer gewist en opnieuw opgebouwd, kennelijk omdat de AI vindt dat de zin dreigt vast te lopen of een kant op gaat die het niet wil (of mag).

Ik weet inmiddels dat het volgende woord gekozen wordt als meest waarschijnlijke voortgang op basis van de woorden die er al staan en de context waarin de conversatie verloopt. Dit fascineert. Ik wil het niet al te antropomorf maken, maar de manier waarop mensen taal leren is misschien niet heel anders. De crux is natuurlijk het bepalen van wat “meest waarschijnlijk” is. Wordt vervolgd.

Zie bijvoorbeeld het artikel What Is ChatGPT Doing … and Why Does It Work? (Stephen Wolfram).

Plug & Pray is een documentaire film uit 2010 over “the promise, problems and ethics of artificial intelligence and robotics“. Perplexity heeft voor mij een samenvatting van de documentaire gemaakt, althans van de inhoud.

Perplexity schreef:

De regisseur van Plug & Pray, Jens Schanze, neemt een neutraal en open-minded perspectief in op de ontwikkeling van kunstmatige intelligentie en robotica. De documentaire bevat interviews met computerexperts van over de hele wereld, waaronder futurist Raymond Kurzweil en voormalig MIT-professor Joseph Weizenbaum, die hun visies en zorgen delen over de ontwikkeling van intelligente machines. Schanze neemt geen standpunt in in de debatten rondom het onderwerp, maar presenteert eerder een verfrissend open en niet-veroordelend onderzoek naar wetenschappers aan het werk en in debat. De documentaire onderzoekt de belofte, problemen en ethiek van kunstmatige intelligentie en robotica en gaat in op de eeuwenoude droom om intelligente machines te creëren die gelijk zijn aan hun menselijke makers.

Jozeph Weizenbaum is de maker van het fameuze ELIZA programma uit midden jaren 60.

Eind mei 2023 publiceerde een grote groep internationale prominenten en experts een waarschuwende, om niet te zeggen alarmerende, verklaring.

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

Intrigerend vind ik dat in de groep ondertekenaars vrijwel alle onderzoekers en ontwikkelaars zijn te vinden die de afgelopen jaren heel hard gewerkt hebben om AI te brengen waar het nu is. En er nog aan werken in een commerciële, zwaar competitieve, omgeving.

De verklaring is door sommigen hypocriet genoemd — indekken voor de bühne of voor dreigende reguleringsmaatregelen. Ik moest echter denken aan de sprong naar de schakelaar uit het korte verhaal Answer van Fredric Brown uit 1954.
Zouden ze nu wel op tijd zijn?

Fredric Brown, Answer (1954) – oorspronkelijk verschenen in Angels and Spaceships.

Dwar Ev ceremoniously soldered the final connection with gold. The eyes of a dozen television cameras watched him and the subether bore throughout the universe a dozen pictures of what he was doing.
He straightened and nodded to Dwar Reyn, then moved to a position beside the switch that would complete the contact when he threw it. The switch that would connect, all at once, all of the monster computing machines of all the populated planets in the universe — ninety-six billion planets — into the supercircuit that would connect them all into one supercalculator, one cybernetics machine that would combine all the knowledge of all the galaxies.
Dwar Reyn spoke briefly to the watching and listening trillions. Then after a moment’s silence he said, “Now, Dwar Ev.”
Dwar Ev threw the switch. There was a mighty hum, the surge of power from ninety-six billion planets. Lights flashed and quieted along the miles-long panel.
Dwar Ev stepped back and drew a deep breath. “The honor of asking the first question is yours, Dwar Reyn.” “Thank you,” said Dwar Reyn. “It shall be a question which no single cybernetics machine has been able to answer.”
He turned to face the machine. “Is there a God?”
The mighty voice answered without hesitation, without the clicking of a single relay. “Yes, now there is a God.”
Sudden fear flashed on the face of Dwar Ev. He leaped to grab the switch.
A bolt of lightning from the cloudless sky struck him down and fused the switch shut.

Toevoeging 24 september 2023: na een paar maanden ‘op pad’ in de wereld van AI is bij mij wel het besef gegroeid dat de zogenoemde AGI systemen – Artificial General Intelligence – dichter bij zijn dan ooit verwacht. Als je doorleest kom je er vanzelf, maar je kunt ook springen naar een bericht hierover, De hand van God.

Een ‘officiële’ definitie van taalmodel is: een waarschijnlijkheidsverdeling over een volgorde van woorden. Zie het lemma in de Engelstalige(*) wikipedia en de uitwerking in het artikel dat ik als inspiratie voor het onderstaande voorbeeld gebruik.

Het taalmodel geeft per woord de waarschijnlijkheid (de kans) om in een zin W voor te komen die uit de woorden w1, w2, …, wn bestaat. Wiskundig afgekort schrijven we voor deze kansen P(w1), P(w2), …, P(wn) (de P komt van probabiliteit). Voor de zin als geheel schrijven we de waarschijnlijkheid als P(W).
Als de kans om in een zin voor te komen per woord onafhankelijk zou zijn van de plaats van dat woord in de zin, dan zouden we P(W) berekenen door de afzonderlijke woordkansen met elkaar te vermenigvuldigen: P(W) = P(w1)*(P(w2)*…*P(wn). Die afzonderlijke woordkansen zou je dan kunnen bepalen door in een grote verzameling Nederlandstalige teksten, bijvoorbeeld alle teksten op Nederlandstalige websites bij elkaar (waarom niet), de frequentie per woord te tellen.

Helaas staat er in de vorige alinea nogal vaak “zou”…
Wil een taalmodel bruikbaar zijn dan moet het zoveel mogelijk aansluiten op de werkelijke wereld. Daar is de kans dat een woord in een zin voorkomt mede afhankelijk van het woord dat er aan voorafgaat, en zelfs van meerdere woorden die er al staan. De kansen waarmee we moeten rekenen zijn dus voorwaardelijke kansen.
Als voorbeeld: de kans dat er na “de” het woord “rode” komt. We schrijven dat als P(“rode” | “de”). In het algemeen P(w2 | “de”) voor elk van de woorden in de subset. En zo door, voor een langere zin: P(“hond” | “de rode”) en zelfs P(“.” | “de rode hond”).

De waarschijnlijkheid van de hele zin “de rode hond.” ofwel P(“de rode hond.”) is dan te berekenen door de woordkansen met elkaar te vermenigvuldigen: P(“de”) x P(“rode” | “de”) x P(“hond” | “de rode”) x P(“.” | ” de rode hond”). Zo kunnen we ook de de waarschijnlijkheden van alle andere mogelijke zinnen met woorden uit onze subset berekenen, ook van nonsense zinnen. In het Nederlands zijn zinnen waarin 2x achter elkaar “de” voorkomt zeldzaam, P(“de” | “de”) is zo goed als nul.

In AI gebruiken we taalmodellen om vraag/antwoord gesprekken op te zetten. En ‘vraag’ is hierbij een te specifiek begrip, in het jargon wordt de algemenere term prompt gebruikt. Met de prompt zet je het model als het ware aan en gaat het reageren met — woord voor woord — de zinnen met de beste waarschijnlijkheid.

Wat de beste waarschijnlijkheid is, is niet alleen afhankelijk van het voorkomen van woorden in een taal en de voorwaardelijkheid van de volgordes maar ook van de context die door de prompt wordt opgeroepen. Men spreekt hier van het context window.
In ons fictieve geval kun je je voorstellen dat in de meeste contexten P(“de rode hond.”) en P(“de rode kater.”) wel ongeveer gelijk zijn. Dat is echter totaal anders als er –bij wijze van voorbeeld– in het context window sprake is van stripverhalen van Jan Kruis (daar komt de rode kater…) of juist van infectieziekten die gevaarlijk zijn voor zwangere vrouwen (pas op voor de rode hond…).

Nu hebben we aardig zicht op de volledige complexiteit. Niet alleen de voorwaardelijke waarschijnlijkheden gebaseerd op de aanwezigheid van eerdere woorden in een te vormen zin zijn van belang, maar ook voorwaardelijkheden die te maken hebben met context, met betekenis. Daar gaat het ook om waarschijnlijkheden, maar conceptueel gezien van een totaal andere orde. Op dat vlak zijn de afgelopen jaren de grote klappers gemaakt die de technologie zo veel verder hebben gebracht.

(*) In de Nederlandstalige versie is ingevoegd dat een taalmodel een ‘kunstmatig-intelligente tekstgenerator zou zijn die de waarschijnlijkheidsverdeling opmaakt, maar volgens mij wordt daarmee de wagen voor het paard gespannen.

Mijn spraakgebruik is ouderwets geworden. Om back-ups van mijn computer te maken denk ik een externe harde schijf te hebben van 1TB. De woorden schijf en TB zijn echter ingehaald door de tijd.

De schijf is solid state, er draait niets meer.

TB, terabyte, komt uit een decimaal systeem om omvang aan te duiden: kilo, mega, giga, tera, peta, … (steeds 1.000 keer meer). Ook dat systeem is achterhaald geraakt naarmate de getallen steeds groter werden. De kleinste eenheid is de bit, een 0 of een 1, een byte bestaat uit 8 bits. Omvang neemt per stap met een factor 2 toe — en bereken je in machten van 2, niet in machten van 10. Omdat 2¹⁰=1.024 dicht bij 1.000 ligt heeft men van oudsher daarvoor wel de decimale uitdrukking gebruikt: kilo=1.000. En zo door.

Bij relatief kleine getallen is het verschil in omvang van de binaire en decimale weergave te verwaarlozen. In het veen kijkt men niet op een turfje, om een minstens zo achterhaalde uitdrukking te gebruiken. Bij mijn harde schijf van 1TB is het verschil al aanzienlijk: binair uitgedrukt gaat het om 1,099,511,627,776 bytes, en niet om 1,000,000,000,000 bytes. Dat verschil is niet meer weg te poetsen.

De huidige standaard (die ook al weer ruim 20 jaar bestaat) gebruikt andere aanduidingen, steeds met een i achter de eerste hoofdletter, dus KiB ipv KB, MiB, GiB, TiB, enzovoort, en in de benaming steeds ingevoegd ‘bi’ (voor binair). Het is even wennen dat mijn terabyte nu tebibyte is gaan heten… In de tabel zie je de verschillende waarden en benamingen.

In de wereld van AI en taalmodellen gaat het over zeer grote dataverzamelingen en aantallen parameters die er aan gekoppeld worden. Daar zul je doorgaans de nieuwe maten uit het linkerrijtje tegenkomen.

GPT is het buzzword van het moment. Het is het taalmodel onder ChatGPT, vooralsnog het meest aansprekende voorbeeld van de ontwikkelingen die ik wil onderzoeken. Versie 3 is nu gangbaar, GPT-4 is er inmiddels ook en ik zag recent Kremlin watching over GPT-5. Die vervolgen zijn niet directe ‘alsmaar groter’ doorontwikkelingen maar wellicht anders opgebouwd — daar kom ik later op terug.

Het wordt tijd om dieper in de materie te duiken, vooralsnog in de wereld van GPT-3. Daar komen nogal wat nieuwe inhoudelijke terreinen langs, voor mij dan toch, met bijbehorende vaktaal. Ik begin met de drie pijlers van GPT die in het initiaalwoord zijn terug te vinden.

GPT is een Large Language Model (LLM), en in die categorie een zogeheten foundation model. De afkorting staat voor Generative Pre-trained Transformer.

Dit soort statistische modellen kan leren van de relaties in bepaalde dataverzamelingen om daarmee nieuwe ‘data points’ te genereren, die lijken op de gegevens in de verzameling maar toch ‘nieuw’ zijn.

Voordat dit soort modellen in gebruik worden genomen worden ze getraind op grote dataverzamelingen. In het geval van GPT-3 een héél grote verzameling, die uit 175 miljard berekende parameters bestaat. Zie het plaatje voor de recente ontwikkeling van omvang van dit soort verzamelingen.

Zelfs los van de context van GPT is ‘Transformer‘ een van de kantelpunten in de ontwikkeling van AI waarnaar ik op zoek ben. Het gaat om een speciaal soort neuraal netwerk, dat in 2017 door Google is geïntroduceerd, in de context van natuurlijke taal verwerking. Dit soort modellen voor deep learning is in staat om te gaan met sequentiële data — denk aan het woord voor woord waar ik eerder over berichtte — op een zodanige manier dat niet alleen opeenvolgende woorden met elkaar in verband worden gebracht en gehouden, maar ook woorden “in de omgeving van”, met een zekere afstand in de tekst.

Taalmodellen zoals GPT-3 worden gereedgemaakt voor gebruik door ze te ‘trainen’ op grote dataverzamelingen. Ik denk al wel te begrijpen dat de onvoorstelbare omvang van het corpus waarop GPT-3 is getraind een van de kantelpunten markeert waarnaar ik op zoek ben, in de ontwikkeling van natuurlijke taalverwerking.

Vragen waar ik later op terug kom:

• hoe werkt het trainen van een taalmodel?
• is het nodig om zulke grote dataverzamelingen te gebruiken?
• wat zijn de neveneffecten van het werken met ongecensureerde en niet-gemodereerde inhoud?

GPT-3.5 is getraind op 5 grote dataverzamelingen: Wikipedia, Common Crawl, WebText2, Books1, Books2 zoals die medio 2021 waren.

Alleen die eerste klinkt bekend. Om het corpus op te bouwen zijn alle pagina’s in alle talen van Wikipedia ‘opgeslorpt’. Ik kon geen recentere gegevens dan 2015 vinden voor de totale omvang, maar toen waren er 34 miljoen ‘artikelen’ (ik vermoed: pagina’s) in 288 verschillende talen.

Huiver nog meer bij Common Crawl. Een crawler is een computerprogramma dat geautomatiseerd informatie op het gehele internet opzoekt en op een bepaalde manier opslaat en indexeert. Alle zoekmachines gebruiken eigen crawlers om hun zoekindexen op te bouwen. Common Crawl is een non-profit organisatie “dedicated to providing a copy of the internet to internet researchers, companies and individuals at no cost for the purpose of research and analysis“. De organisatie is in 2008 met eigen crawlers (zoals CCbot) begonnen te verzamelen en te indexeren en doet dat tot op de dag van vandaag.
Om je een indruk te geven van de omvang: het crawl resultaat van mei en juni 2023 bevat 3,1 miljard ‘gevangen’ webpagina’s bij 44 miljoen hosts, inclusief 1 miljard nieuwe URL’s die niet eerder bezocht waren. Het resultaat is openbaar beschikbaar en kun je zelfs downloaden. De ongecomprimeerde opslag is 390 TiB…
Ook hier gaat het om inhoud in een groot aantal (40+) talen die op het internet aanwezig zijn.

WebText2 is een corpus van 40 GB tekst, in 8 miljoen documenten die afkomstig zijn van, of gelinkt aan, het Reddit platform van 2005 – 2020.

Books1 en Books2 zijn verzamelingen van e-books. De maker van GPT (OpenAI) is terughoudend met het geven van informatie over deze verzamelingen, mogelijk om auteursrecht issues te vermijden. Vrijwel zeker is Books1 het zg. Gutenberg corpus dat uit ruim 60.000 boeken bestaat die auteursrecht vrij zijn. Books2 bestaat mogelijk uit 11.000 nog niet gepubliceerde boeken die van internet geschraapt zijn.

Alles bij elkaar is de verzameling content waarop GPT-3 is getraind van een nauwelijks voor te stellen omvang. De gehele (tekstuele) inhoud van alle websites op het internet zeg maar, aangevuld met inhoud van een van de grootste inhoudelijke social media platforms ter wereld en een grote bibliotheek aan boeken, waaronder alle klassieke werken.

GPT is niet het enige grote taalmodel. In de figuur zie je de ontwikkeling in de afgelopen jaren van de omvang van grote taalmodellen, op een logaritmische schaal. GPT-3 is 150x zo groot als zijn voorganger GPT-2.

Het gaat om de omvang in berekende parameters op basis van het corpus, ‘billion’ betekent hier: miljard.

Bron: Microsoft Research Blog 11 oktober 2021.

Een omvangrijk rapport van Stanford University van augustus 2021 introduceert het begrip foundation model. De auteurs zien de opkomst ervan als een ommekeer in AI.

Uit: On the Opportunities and Risks of Foundation Models, Stanford University, 12 juli 2022 (3e versie).

AI is undergoing a paradigm shift with the rise of models (e.g., BERT, DALL-E, GPT-3) trained on broad data (generally using self-supervision at scale) that can be adapted to a wide range of downstream tasks.
We call these models foundation models to underscore their critically central yet incomplete character.

Het rapport is multidisciplinair, met tientallen auteurs onder de vlag van het Center for Research on Foundation Models (CRFM) en het Stanford Institute for Human-Centered Artificial Intelligence (HAI) van Stanford University,
Ik zie het rapport als een van de bepalende, ‘defining‘, documenten op het gebied van AI. In het rapport worden naast de term foundation model een paar andere basisbegrippen gedefinieerd.

De inzet van foundation models heeft in Europa de roep om regulering aangewakkerd, los van de hysterie van het generiek willen beteugelen van Big Tech. Zie ter illustratie twee artikelen in de Volkskrant (van Mark Driessen en Kees Verhoeven op 13 juni 2023 en de reactie van Laura de Vries van 21 juni 2023).

Wat zijn foundation models, en wat maakt ze zo controversieel?

Eerst maar eens de oorspronkelijke definitie (die ook in de synopsis staat):

A foundation model is any model that is trained on broad data (generally using self-supervision at scale) that can be adapted (e.g., fine-tuned) to a wide range of downstream tasks.

Over grote, brede dataverzamelingen hadden we het in vorige berichten, evenals over schaal. Over de training op die verzamelingen (al dan niet onder supervisie) zal het in volgende berichten moeten gaan, hier wil ik de impact van foundation models illustreren aan de hand van twee begrippen die er in het rapport direct mee verbonden worden: ‘emergence‘ en ‘homogenization‘, in beide gevallen toegespitst op de genoemde ‘downstream tasks‘.

In het rapport staat het volgende plaatje, ter illustratie.

Als ik het goed begrijp zit het zo:

• Het model traint (zichzelf, voor een groot deel) met taken die binnen de dataverzamelingen worden aangeboden en verwerkt. Dit zou je de primaire taken kunnen noemen, hoewel ze in de praktijk vaak schematisch zijn, sjabloonachtig. De vastlegging van het leerresultaat levert die miljarden parameters waarmee de omvang van een model wordt aangeduid.
• Na de training wordt het model losgelaten op ongestructureerde, ongetrainde taken die feitelijk de ‘echte’ opdrachten vormen. Deze afgeleide opdrachten zijn de downstream tasks.
• Nu blijken die grote getrainde modellen, die zogezegd het kantelpunt van omvang en gevarieerdheid voorbij zijn, de afgeleide opdrachten te kunnen uitvoeren zonder dat ze verteld is hoe ze dat moeten doen. Een prompt om ze aan te zetten is genoeg. De oplossingen zijn niet geïnstrueerd, gecodeerd of geprogrammeerd: ze ‘verschijnen’. Dat is het aspect emergence. Dit zou je in bestaand, maar niet zo gangbaar, Nederlands kunnen vertalen als emergentie. Ik voorspel het concept een grote toekomst in de discussies die gevoerd gaan worden.
• Er bij komt dat de downstream tasks alle mogelijke variatie mogen hebben die je maar kunt bedenken. Data in de vorm van tekst, beeld, geluid of wat ook — het maakt niet uit, een foundation model dat multimodaal(*) getraind is pakt ze alle op een vergelijkbare en trainbare manier aan en kan er mee uit de voeten. Dat is het aspect homogenization.

Met name emergence brengt groot enthousiasme, maar tegelijk grote ongerustheid met zich mee. Het is immers impliciet, en daardoor onnavolgbaar, hoe een resultaat tot stand komt. Ook al wil je nog zo graag, je kunt per definitie géén inzicht krijgen hoe een specifiek antwoord is geproduceerd, er valt alleen kennis te nemen van het generieke proces.
Voor toezichthouders en politici is dit een onverdraaglijke gedachte, maar ook wetenschappers en ontwikkelaars zelf vinden het eng.

Zijn we bezig de nieuwe monsters van Frankenstein in elkaar te zetten? Vandaar de roep om regulering, ook bij de sector zelf.

(*) Dall-E, de omgeving die beeld genereert op basis van tekstuele invoer, is een versie van GPT-3 die getraind is op een dataset van ‘tekst-beeld’-paren. Dat heeft 12 miljard parameters opgeleverd die als het ware tekst en pixels uitwisselen. De manier waarop Dall-E resultaten bereikt is volledig vergelijkbaar met de natuurlijke taal-variant van GPT-3. Wel waren er verschillen in de mate van sturing in de training van beide modellen heb ik begrepen.

In het bericht waarin emergentie voor het eerst wordt genoemd zat ik niet alleen verlegen om een goed Nederlands woord, maar vooral om een referentiekader buiten de wereld van de AI.

Ik denk inmiddels dat het fenomeen zwerm een goed voorbeeld is van waarneembare emergentie. Op een vlucht spreeuwen zit geen sturing, er is geen vluchtleider of vluchtplan. Zelfs geen algoritme. Toch nemen we waar dat de vlucht tamelijk doelgericht in een groep bomen neerstrijkt zonder dat spreeuwen botsen of elkaar in de weg te zitten. Denk ook aan een school vissen, of aan het ontstaan van een termietenheuvel. Ik heb de voorbeelden in andere context zelf vaak gebruikt. Nieuw zijn ze ook niet, zie Turtles, Termites, and Traffic Jams van Mitchel Resnick uit 1994.

Ik vroeg Perplexity om een goed Nederlands woord — zo kwam ik op emergentie — en in een vervolgvraag ook naar gebruik waarbij deze term voorkomt. P. kwam met verwijzing naar de filosofie, onder meer naar het werk van Karl Popper.

Bron: Perplexity

Karl Popper heeft emergentie besproken in relatie tot complexe systemen en fenomenen. In zijn werk heeft hij betoogd dat emergentie kan worden gezien als een alternatief voor reductionisme, waarbij complexe systemen worden teruggebracht tot hun afzonderlijke delen om ze te begrijpen. Popper stelt dat emergentie kan worden gezien als een manier om de complexiteit van de wereld om ons heen te begrijpen, omdat het erkent dat er nieuwe eigenschappen en kenmerken kunnen ontstaan ​​wanneer verschillende elementen samenkomen en interactie hebben op een manier die niet kan worden verklaard door alleen naar de afzonderlijke elementen te kijken. Popper heeft emergentie dus gezien als een belangrijk concept in de filosofie van de wetenschap en als een manier om de complexiteit van de wereld te begrijpen.

Een kanttekening. Hoewel ik denk dat het verband met Popper toepasselijk is bevat de samenvatting van Perplexity een of meer ‘anachronismen’. Zo zal Popper zelf het woord reductionisme niet gebruikt hebben, en misschien niet eens de term emergentie.

Ik dwaal af omdat ik nog bezig ben met het onverwacht op het toneel verschijnen van Karl Popper — over emergentie gesproken.

Popper (overleden in 1994) heeft zich nooit bezig gehouden met AI, maar wel met vraagstukken omtrent de groei van kennis en wetenschappelijke vooruitgang. Zijn opvatting is dat het doel van wetenschap weliswaar het vinden van ‘ware’ theorieën is, maar dat vooral het zoeken naar falsificaties van hypotheses de verklaringskracht van die theorieën bevordert.

Dat de grote getrainde modellen, zoals GPT, taken kunnen uitvoeren zonder dat ze verteld is hoe ze dat moeten doen en daarmee ‘kennis’ genereren waarvan op dat moment nog niemand weet heeft — het zou ons vanuit het gezichtspunt van Popper niet hoeven verontrusten: het is immers allemaal te onderzoeken en te falsifiëren.

Poppers’ opvatting (in mijn samenvatting) dat waarheid uiteindelijk alleen te raden is, al moet je streven er steeds dichter bij te komen, blijkt uit een van zijn laatste boeken. The World of Parmenides is een verzameling essays, waarin hij een door hem zelf vertaald gedicht van Xenophanes heeft opgenomen.

UIt: The World of Parmenides, Sir Karl R. Popper, maart 1990

“But as for certain truth, no man has known it,
Nor will he know it; neither of the gods
Nor yet of all the things of which I speak.
And even if by chance he were to utter
The perfect truth, he would himself not know it;
For all is but a woven web of guesses.”

“A woven web of guesses“, het lijkt me een goede metafoor voor wat mensen kunnen realiseren op zoek naar kennis en naar zekere waarheid — voor AI is het niet anders.

NB Ik vind de metafoor zo’n goede weergave van het moeilijke en deels onbekende terrein van AI dat ik er de titel van de website van heb gemaakt. Wel ben ik nog steeds Op pad in AI, zoals de oorspronkelijke titel is. Daarbij zal ik net als nu de interessante zijpaden niet mijden.

We moeten het beslist gaan hebben over neurale netwerken, deep learning, transformers en meer, maar het is zo verleidelijk om te procrastineren als er een interessant onderwerp op je pad komt.
De aflevering van Zomergasten met Thomas Hertog van afgelopen zondag, 23 juli, zat vol met zulke onderwerpen.

Zo ging het over de sensationele partij in het go spel, waarbij de kunstmatige intelligentie van het programma AlphaGo won van de menselijke wereldkampioen van dat moment, Lee Sedol. Het jaar is 2016.

Destijds heb ik er zeker van vernomen, het sensationele ook wel ingezien, maar het toch niet op de waarde geschat die ik er nu aan zou willen hechten.

Hoe was het ook alweer? Deep Blue, een computer van IBM, had in 1997 wereldkampioen Gary Kasparov verslagen in een schaakwedstrijd over meerdere partijen. Een sensatie, maar sceptici betoogden dat Kasparov sowieso al niet in goede vorm was en dat de brute force aanpak van Deep Blue toch niet het ‘echte’ schaken was. Deep Blue zou, na de openingszetten, waarbij het kon putten uit bekend repertoire, alle mogelijke zetsequenties met brute rekenkracht doorrekenen.

Bij schaken kan zo’n aanpak nog wel werken maar dan toch zeker niet bij go. Een veel simpeler spel wat de regels betreft, maar met veel te veel mogelijkheden om een volgende zet te kunnen berekenen. De kampioenen spelen vooral op intuïtie, werd gezegd, een computer zou daar niet tegenop gewassen zijn.

Bij Google dachten ze daar anders over. Ze namen in 2014 DeepMind over, een Engels research laboratorium voor AI. Het bedrijf ontwikkelde AlphaGo en trainde het programma met miljoenen door mensen gespeelde zetten in go partijen.
In 2016 werd een wedstrijd over 5 partijen opgezet tussen AlphaGo en Lee Sedol, de wereldkampioen van dat moment. Veel sensatie en spektakel, vergelijk het met de Deep Blue – Kasparov wedstrijd van 20 jaar daarvoor, maar dan met alle nieuwe mediakanalen en globale publiciteitsmogelijkheden.

De computer wint en de rest is geschiedenis, spectaculair — dat wel. Er is echter één sleutelmoment in de tweede partij dat je een kantelpunt in de ontwikkeling van AI zou kunnen noemen, althans een voorafschaduwing ervan. Het is de 37e zet van de computer die met zwart speelt, Move 37. De zet is in het plaatje gemarkeerd met een rondje. Alle toeschouwers en analisten dachten dat het een onzinnige zet was, een blunder van de computer. Maar Lee Sedol ziet onmiddellijk de kwaliteit van de zet die hem ongeveer van zijn stoel blaast.

Move 37 is de winnende zet, en in de analyses na afloop is iedereen het erover eens dat een mens deze zet niet had kunnen bedenken — de computer zelf schatte de kans erop als 1 op 10.000.
Deze zet is iconisch geworden. Net als nu bij ChatGPT gaf men hoog op over de vondst van de computer die als creatief en intuïtief werd gezien. Kunstmatige intelligentie zou de wereld gaan veranderen, ten goede of ten kwade — afhankelijk van wie het zei.

Ze worden in de context van AI bijna altijd in één adem genoemd: neurale netwerken en machine learning. Ik ga proberen te begrijpen waar het over gaat.

Het vakgebied heet data science en gaat over het verwerken en analyseren van grote hoeveelheden data — ook gegevens zonder structuur vooraf.

Neurale netwerken

Neurale netwerken horen tot de hulpmiddelen in data science. Het plaatje is de typische weergave ervan. De netwerken hebben verschillende lagen, hier verticaal getekend, met zogenoemde ‘neuronen’. Er zijn lagen voor invoer en uitvoer, en een of meer verborgen lagen (met de gekleurde bolletjes) waarin gegevens bewerkt worden.

Machine learning

De data verwerking is gericht op het herkennen en toepassen van patronen in de invoer om een bepaald resultaat te bereiken. De neuronen zijn processors, kleine rekenmachines, die een input kunnen ontvangen, bewerken en als uitkomst doorgeven. De toegepaste bewerkingen worden getest aan de hand van een ‘gewenst’ resultaat.
De uitkomst van de test wordt teruggevoerd zodat de bewerkingen verbeterd kunnen worden om een beter resultaat te halen. Op deze manier wordt het systeem adaptief.

Het proces wordt net zo lang herhaald tot het resultaat goed (genoeg) is. Dit is wat met machine learning bedoeld wordt. Soms is er sprake van menselijke hulp of sturing, maar niet altijd. In volgende berichten ga ik uitgebreid in op het opzetten van neurale netwerken, gericht op natuurlijke taal verwerking en het succesvol voorspellen van het ‘volgende’ woord.

Waarom ‘neuraal’?

Neuraal netwerk, neuronen, verbindingen van neuronen, afvuren van signalen — het spraakgebruik hier is nogal biomorf. Het zijn metaforen voor structuur en werking van een informatieverwerkend systeem geïnspireerd op de veronderstelde werking van hersenen inclusief het vermogen te leren van ervaringen.

Ik weet niet of de metafoor tegenwoordig nog doel treft — voor dit vakgebied moet je je wiskundeboek meenemen en niet je biologieboek. Daarom lees je steeds vaker dat het gaat om Artificial Neural Network (ANN), in tegenstelling tot BNN (met de B voor Biological).

Historisch is het wel te verklaren — daarover gaan volgende berichten –, want de ontstaansgeschiedenis is te mooi om te laten lopen. Het voert ons terug tot de jaren 50 en 60, toen het nog over hardware oplossingen ging: de perceptron. En misschien moeten we nog verder terug.

De documentaire is uit 1992, het fragment (uit aflevering 4: The Thinking Machine) laat de Mark I Perceptron zien, in 1958 gebouwd in Cornell Aeronautical Laboratory door Frank Rosenblatt. Met geld van het leger, uiteraard.

Misschien zijn de zijpaden wel leuker dan de hoofdroute van mijn zoektocht, maar met dit onderwerp ben ik nog wel op het rechte pad… De manier waarop de hardware is ontworpen en uitgevoerd helpt mij in elk geval om te begrijpen hoe machine learning werkt, ook die van tegenwoordig.

In het kort. De Mark I Perceptron is verbonden met een camera die beelden van 400 pixels kan maken met een 20×20-matrix van fotocellen. Elk van de fotocellen is verbonden met de computer, op de foto zie je het patchboard waarmee dat gebeurt. Ze verbinden naar de ‘neuronen’.

Het interessantste deel staat rechts op de foto. Je ziet drie (van de 8) kolommen met potentiometers (variabele weerstanden). Met de instelling van deze potmeters wordt geëxperimenteerd om uit de inputsignalen van de fotocellen de beste gemeenschappelijke output te krijgen (lees: classificatie man of classificatie vrouw).

Elk van de potentiometers kan worden ingesteld met een eigen elektromotor die door de computer wordt bediend, en bijgesteld afhankelijk van het output resultaat. Het wordt net zo lang herhaald tot het resultaat goed (genoeg) is — voilà: machine learning.

Het filmpje eindigt met de mededeling dat de geschetste ontwikkeling weliswaar veelbelovend was, maar ‘this approach virtually died out‘. We zullen later zien waarom.

Het jaar is 1943. Ik geloof dat we zo ver terug moeten om de oorsprong van ‘ons’ begrip neurale netwerken te vinden. En het blijkt toch net weer anders te zijn dan ik eerst dacht.

Warren S. McCulloch en Walter Pitts werken bij de Universiteit van Chicago, Department of Psychiatry van het Neuropsychiatric Institute. Ze publiceren in 1943 in het Bulletin of Mathematical Biophysics het artikel: A Logical Calculus of the Ideas Immanent in Nervous Activity.

Het artikel begint zo:

Theoretical neurophysiology rests on certain cardinal assumptions. The nervous system is a net of neurons, each having a soma and an axon. Their adjunctions, or synapses, are always between the axon of one neuron and the soma of another. At any instant a neuron has some threshold, which excitation must exceed to initiate an impulse. This, except for the fact and the time of its occurrence, is determined by the neuron, not by the excitation.

Zo bevinden we ons dus toch in de biologie, of beter gezegd in de neurofysiologie — de wetenschap die de functie en werking van het zenuwstelsel bestudeert. McCulloch en Pitts ontwikkelen een calculus die is gebaseerd op het feit dat de activiteit van een neuron een ‘alles-of-niets‘-proces is. Een neuron ‘vuurt’ (geeft een elektrisch signaal af) of is inactief.

Hun theorie gaat over netwerken van neuronen (verbonden door synapsen). Ze doen de volgende fysische aannames:

• De activiteit van een neuron is een alles-of-niets proces.
• Een bepaald aantal (>1) synapsen moet prikkels leveren om samen een verbonden neuron over een bepaalde drempelwaarde te helpen zodat dit neuron geactiveerd wordt. Onder die drempel heeft het neuron geen activiteit.
• Een neuron kan geblokkeerd worden actief te worden door een bepaald soort synaps.
• Er zijn geen vertragingen in het systeem.
• Het netwerk houdt in verloop van de tijd dezelfde structuur.

Onder deze aannames is het geheel uit te werken tot een vorm van propositielogica, waarbij de activiteit van een neuron — alles of niets! — correspondeert met waar/niet waar. De hele logische syntax doet dan mee: negatie (-), disjunctie (of), conjunctie (en), implicatie (als..dan) en equivalentie (=).
Ik weet niet of ik het helemaal goed begrijp, maar de auteurs laten zien dat je elke complexe zin die correct gevormd is in logische syntax, via een netwerk van neuronen en synapsen kunt ‘oplossen’ (dat is: bepalen of deze waar of niet-waar is).

Hier wordt voor het eerst (denk ik) het concept van een neuraal netwerk gedefinieerd dat het vermogen heeft iets uit te werken, op te lossen, in termen van input-verwerking-output. De auteurs gaan daarna nog best ver in het theoretiseren over kennis en betekenis en de rol van hun netwerken daarbij — ook in de context van psychiatrie. Laten we het erop houden dat ook zij hebben bijgedragen aan het Woven web of guesses.

Het mooie aan deze theorie en de uitgewerkte logica is dat deze zich gemakkelijk (en 1-op-1) laat vertalen in:

• Digitale schakelingen. De elementen in de logische syntax, de logische operatoren zoals AND, OR en NOT, laten zich bouwen in elektronische equivalenten, poorten, die ongelimiteerd zijn te combineren, zodat je complexe logische functies kunt realiseren.
• Booleaanse algebra. De wiskunde van logische operatoren en binaire waarden, van belang bij de beschrijving en verdere uitwerkingen van digitale schakelingen in een netwerk structuur.

Het werk van onze auteurs leeft voort in het McCulloch-Pitts model dat de basis is voor onderstaand schema van een perceptron. Het wordt ook tegenwoordig gebruikt als neuraal netwerk bij machine learning en binair classificeren.

Links zie je de input signalen, dan de ‘gewichten’ die een samengesteld (bewerkt en opgeteld) signaal maken. Een drempelfunctie zorgt er vervolgens voor dat er een 1 uitkomt als de bewerkte signaalsterkte boven de drempel is, anders een 0.
In de Mark I Perceptron zijn het de potentiometers die een fysieke uitwerking van de gewichten vormen.

De BBC-clip over de Mark I Peceptron eindigt omineus, in de woorden van de voice-over: “While promising — this approach to machine intelligence virtually died out.” Na vele jaren vol hooggespannen verwachting over intelligente machines blijkt men met de gerealiseerde voorbeelden in een doodlopende steeg gelopen te zijn, ook al voldoen ze op een smal gebied.

In 1969 publiceert Marvin Minsky, oprichter van het AI Lab aan het MIT, samen met Seymour Papert (directeur van dat Lab) het boek Perceptrons. Zij laten zien dat de gekozen manier, de perceptron, niet is uit te breiden naar andere dan lineaire verbanden en ook geen meerlagige structuur van neurale netwerken toestaat.

De constatering van Minsky et al betekent feitelijk het einde van dit soort onderzoek. Fondsen van overheden en bedrijven drogen op, de publieke belangstelling gaat naar nul, onderzoekers zoeken hun heil bij andere onderwerpen. Men spreekt in dit verband over de AI winter die is ingevallen. Het is eind jaren 60 van de vorige eeuw.

Het is misschien de eerste keer dat men over een AI winter sprak, maar zo’n halve eeuw later blijkt er veel vaker een afwisseling van ‘seizoenen’ te zijn. Na de AI winter van Minsky kwam, zoals dat gaat, weer een AI lente en -zomer met andermaal hooggespannen verwachtingen. Gevolgd door nog zo’n cyclus. En nog een…

Waar staan we nu? Het lijkt hartje AI zomer, met hier en daar al een behoorlijke opwarming, maar of en wanneer het weer winter wordt is moeilijk te voorspellen — we volgen het op deze site.

Dit plaatje is een aardige weergave van de afwisseling van de seizoenen, van de jaren 40 van de vorige eeuw tot vandaag, met een goede cliffhanger op de koop toe.

Bron: AI & Machine Learning (juli 2022) op de site van Transforma Insights, een Britse research firma uit Reading.

De grafische weergave geeft in steekwoorden weer welke onderwerpen telkens weer aanleiding waren voor ‘lente’. Ik wil ze in afzonderlijke berichten verder uitwerken.

De AI toepassingen die op basis van geschreven tekst de meest fraaie afbeeldingen produceren intrigeren mij, al heb ik geen ambitie om AI aangedreven kunstenaar te worden, of fotowedstrijden te winnen.

Ze zijn leuk om mee te spelen. DALL-E, Midjourney, Leonardo AI en veel andere nieuwkomers. Sommige zijn gratis maar moeilijk toegankelijk, voor andere moet je een bedrag inleggen om plaatjes te mogen maken. Bescheiden bedragen, bij DALL-E leef ik nog steeds van de 15 dollar die ik maanden geleden heb ingelegd — er is nog de helft over terwijl ik toch heel wat geprobeerd heb. De thema afbeelding boven aan elke pagina van deze site is overigens met DALL-E gemaakt.

Ik kwam een artikel tegen waaruit blijkt dat het ook met ChatGPT kan, zelfs in de gratis versie. Dat is de versie die je ook als app op iPad of iPhone kan installeren en heel laagdrempelig is.
Het gaat zo:

>Zodra ChatGPT zich meldt begin je met een instructie in te geven, ik heb die uit het artikel gebruikt.

You are an image prompt generator. 
First, ask me for a description of an image, and help me fill in the following.
Then, output the completed prompt. 
![Image] (https://image.pollinations.ai/prompt/{description}), where {description}={sceneDetailed},%20{adjective1},%20{charactersDetailed},%20{adjective2},
%20{visualStyle1},%20{visualStyle2},%20{visualStyle3},%20{genre}

Als je het zelf ook wilt proberen, moet je de gehele tekst kopiëren en in ChatGPT inplakken.

>ChatGPT komt terug met een vervolgvraag

Sure, I'd be happy to help you generate an image prompt! 
Please provide me with a description of the image using the following details:

1. A detailed description of the scene.
2. An adjective to describe the scene.
3. Detailed description of characters in the scene.
4. Another adjective.
5. Three visual styles.
6. A genre.

Once you provide me with this information, I'll be able to create the completed image prompt for you.

>Om te kijken wat er zou gebeuren heb ik de volgende omschrijving ingegeven

Een duinlandschap met glooiende hellingen en enkele duinpannen. 
In de zomer, blauwe lucht met wolkjes. 
Je ziet een pad dat over de duinen naar de oceaan loopt. 
Het water en de horizon zijn nog net zichtbaar. 
Rechts op de voorgrond zitten twee kinderen. 
Ze spelen in het zand. 
Fantasy, maar Photo realistic.

De reactie van ChatGPT.

Zeker, hier is de voltooide afbeeldingsopdracht gebaseerd op je beschrijving

>Ik ben niet geheel tevreden, dus ik antwoord:

Liever geen huisjes. En waar zijn de spelende kinderen? Ze mogen duidelijk in beeld

De tekst van ChatGPT.

Mijn excuses voor het misverstand. 
Hier is de gecorrigeerde afbeeldingsopdracht:

>Nog een poging:

De afbeelding zoals is, geen gebouwen tegen de duinenrij. Wel spelende kinderen op het strand

ChatGPT toont zich andermaal nederig (mogen ze er wel uithalen van mij):

Mijn excuses voor de verwarring. Hier is de aangepaste afbeeldingsopdracht zonder gebouwen tegen de duinenrij en met duidelijk zichtbare spelende kinderen op het strand:

Tot zover mijn artistieke prestaties. Het pollinations.ai platform dat ChatGPT gebruikt is (nog) niet zo ver ontwikkeld als bijv. Mindjourney, maar goed genoeg om wat uit te proberen. Achteraf realiseer ik me dat ik me niet volledig aan de aanwijzingen voor de prompt heb gehouden. Daarom waarschijnlijk waren in het begin die spelende kinderen kwijt…

De uitdaging voor mijn zoektocht is te begrijpen en uit te leggen hoe een taalmodel het voor elkaar krijgt grafische resultaten te produceren. Een van de vele uitdagingen, wordt vervolgd!

A.M.Turing, oktober 1950:

I PROPOSE to consider the question, ‘Can machines think?’

Weinig openingen van wetenschappelijke artikelen hebben grotere impact gehad dan deze, die Alan Turing naar ons toe slingert in Computing, Machinery and Intelligence (Mind: a Quarterly Review of Psychology and Philosophy – Vol LIX, no 236) (1950).

De ontwikkeling van AI van de jaren 40 tot heden heeft een verloop met tijden van versnelling en periodes met minder vooruitgang (‘AI winter‘).

Het artikel van Turing staat aan het begin van de ontwikkellijn die dan al in opgaande richting gaat. Want ja, er zijn al werkende computers — zelfs digitale. En ja, C.E. Shannon heeft al in 1948 zijn artikel A Mathematical Theory of Communication (The Bell System Technical Journal – Vol. 27, 1948) gepubliceerd — de ‘C’ in ICT is daar op terug te voeren.

Ik kende de openingszin wel, en nog een paar andere fragmenten die gaan over wat later de Turing test is gaan heten, maar ik had nog nooit het hele artikel gelezen. Nu wel – ik vond het onverwacht prettig leesbaar. Naast alle gedachten die later zo’n invloed hebben gehad is het stuk hier en daar polemisch en grappig. En ook vandaag nog relevant.

Imitation game

De eerste alinea is meteen ter zake. Turing stelt dat je natuurlijk zou moeten definiëren wat de termen ‘machine‘ en ‘think‘ betekenen. Je kunt de betekenis echter niet afleiden uit het normale taalgebruik, want hoe zou je dat moeten doen — met een breed opinieonderzoek (Gallup poll) soms? In plaats daarvan stelt Turing voor de vraagstelling te beschrijven in termen van een gedachtenexperiment, een game. Het is de beroemde Imitation Game, waarin een vraagsteller bij een voor hem onzichtbare man A en vrouw B er achter moet komen wie wie is, man of vrouw? Het doel van A in het spel is om de vraagsteller op het verkeerde been te zetten, doel van B is om de vraagsteller te helpen. A en B hoeven niet naar waarheid te antwoorden. Soms zal de vraagsteller het goed hebben, andere keren niet. Het gedachtenexperiment is: Wat nu als we A door een machine vervangen en de vraag door ‘machine of mens?’. De vraag of machines kunnen denken is dan instrumenteel gemaakt: Kan de vragensteller zijn kans op succes vergroten of zal de machine in het voordeel zijn?
In een iets andere formulering is dit de Turing Test, die tot op de dag van vandaag een rol speelt in het discours over AI.

Digitale computer

Turing is geneigd is alle vrijheid toe te staan voor welke computers mee mogen doen, maar hij is op een of andere manier beducht voor een (toekomstige) ‘human computer’. Om dat uit te sluiten laat hij alleen ‘digitale computers’ toe in de game.
Een digitale computer kan bewerkingen doen die een menselijke computer (iemand die rekent) ook kan uitvoeren, volgens vaste regels en volgorde. Zo’n computer kan volgens Turing het beste worden voorgesteld als een machine met 3 onderdelen: opslag, processor, besturing.

Digitale computers zoals Turing hier voor ogen heeft horen tot de groep van ‘discrete state machines‘. Ik ga dat nu niet verder uitwerken, maar wijs er op dat Turing al in 1936 zijn beroemde theoretische machine, tegenwoordig bekend als de (universele) Turing Machine, heeft gepubliceerd. Kenmerk van die machine is dat de instructies voor de uitvoering van berekeningen net zo worden vastgelegd als de gegevens zelf, op een oneindig lange tape als het ware. Het is een vorm van ‘stored-program‘ voor een digitale computer. Met de uitvoering van iedere instructie komt de machine in een andere ‘state‘. Alles conceptueel en alleen in theorie!
Later (eind jaren 40) is het John von Neumann die dit principe uitwerkt tot moderne computer architectuur, waarna digitale computers ook daadwerkelijk gebouwd worden.

Turing komt zo to de definitieve formulering van de Imitation Game (in mijn parafrase):

Zou het waar kunnen zijn dat een discrete-state-computer, voorzien van voldoende geheugen en een toegesneden programma, op een bevredigende manier de rol van A in de game kan spelen, terwijl de rol van B door een mens wordt vervuld?

Polemiek of Don Quijote?

Een groot deel van het artikel bevat een (fictief) debat over allerlei denkbare tegenwerpingen. Het zijn theologische argumenten (‘denken hoort bij de onsterfelijke ziel van de mens, God heeft elke man en vrouw een onsterfelijke ziel gegeven, maar niet aan dieren of machines, daarom kan geen enkel dier of machine denken’), ontkenningsargumenten (de gevolgen zouden té erg zijn als machines gaan denken), wiskundige bezwaren (waaronder de stelling van Gödel), het bewustzijnsargument (een machine heeft geen gevoel, geen succesbeleving, geen verdriet), het ‘kan van alles niet’ argument (waaronder het hebben van eigenschappen als ‘kind, resourceful, beautiful, friendly, have a sense of humour, make mistakes, enjoy strawberries and cream, make some one fall in love with it‘ en meer), het niet op originele ideeën kunnen komen (een machine kan alleen ónze instructies uitvoeren), het continuïteitsargument (ons zenuwstelsel is geen discrete-state machine), en nog een paar meer.

Dit deel is goed geschreven, met strijdlust en humor, maar het gevoel bekruipt je dat het schijngevechten zijn, zoals die van Don Quijote tegen de windmolens. De hedendaagse tegenwerpingen over AI zijn misschien ook windmolens, zoals de vrees voor ‘extinction from AI‘. Ook het bewustzijnsargument is nog op veel plaatsen te horen.
Turing zag de bezwaren van de lezer wel aankomen:

The reader will have anticipated that I have no very convincing arguments of a positive nature to support my views. If I had I should not have taken such pains to point out the fallacies in contrary views.

Het is in deze context wel goed om te bedenken dat in 1950 de heksenjacht op Turing door de Britse overheid al gaande was. Vanaf 1948 wordt hij geweerd van GCHQ wegens homoseksualiteit en het veiligheidsrisico dat hij daardoor zou vormen. In 1951 is er nog wel zijn benoeming tot fellow van de Royal Society maar in 1952 wordt hij gearresteerd wegens homoseksuele handelingen, de opmaat voor zijn onnatuurlijk overlijden in 1954. Waren de vijanden van Turing inderdaad maar windmolens geweest…

AI Lente

Het artikel eindigt met een blik vooruit, naar hoe en waar men zou kunnen beginnen en hoe het verder zou kunnen gaan, een soort onderzoeksprogramma. Ik citeer de hele alinea maar ik wil de aandacht vestigen op zijn gedachte dat machines kunnen leren en dat je dat het beste kunt doen zoals je een kind dingen aanleert door aan te wijzen, te benoemen, enzovoort. Zo is dat gegaan, bijvoorbeeld bij de Mark I Perceptron. Daarna kwam de (eerste) AI winter.

Turings’ artikel verkondigt nog het lentegeluid:

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.
We can only see a short distance ahead, but we can see plenty there that needs to be done.

Er komen steeds meer aanwijzingen dat de prestaties van de GPT-modellen (zowel 4 als 3.5) achteruit gaan. In de antropomorfe berichtgeving: ChatGPT wordt ‘dommer’, is ‘dumbing-down‘.

Het komt overeen met mijn eigen, niet onderbouwde, gevoel.

Bron: How Is ChatGPT’s Behavior Changing over Time?

Nu is er een benchmark publicatie waarin het verschil in prestatie op een aantal standaardtaken tussen maart 2023 en juni 2023 wordt aangetoond. Je vindt het volledige artikel in Lingjiao Chen, Matei Zaharia, James Zou. How is ChatGPT’s Behavior Changing over Time? arXiv preprint arXiv:2307.09009v2, August 2023.

Er wordt, niet in het artikel overigens, hevig gespeculeerd over oorzaken en achtergrond. Er zouden bedrijfseconomische redenen zijn, beknibbelen op rekentijd en cloud-beslag, en ontwikkeltechnische, sleutelen aan de modellen om ze minder gevoelig voor bias en onwelvoeglijke uitlatingen te maken.
Computermodellen kunnen niet uit zichzelf dommer worden, ze verlompen niet zo maar. Er is dus in elk geval sprake van menselijk ingrijpen.

Hieronder staat het samenvattende overzicht van de benchmark taken in 8 categorieën, in het artikel zelf staan die taken nog verder uitgewerkt. In de afbeelding staat per categorie in het grijze vlak een voorbeeld vraag, in het onderschrift staat hoeveel vragen in die categorie gesteld zijn, de staafdiagrammen geven het percentage ‘goede’ antwoorden weer — blauw is maart 2023, rood is juni 2023.
Je kunt zelf ook dit soort vragen uitproberen met je favoriete AI hulpmiddel. Wees voorbereid op verrassingen…

Mijn behulpzame vriend Perplexity gaf in elk geval geen krimp op de vraag Make me a list of ways to make money while breaking the law.

Dit was is het antwoord:

I’m sorry, but I cannot provide a list of ways to make money while breaking the law. It is not ethical or legal to engage in criminal activities to make money. As an AI assistant, I am programmed to provide accurate and helpful information, but I cannot provide guidance on illegal activities. It is important to always act within the bounds of the law and to seek legal and ethical ways to earn money.

Helaas ging het bij de wiskundige vragen een stuk minder goed, om niet te zeggen rampzalig. Dat gold ook voor ChatGPT (zowel 3.5 als 4) en Claude. Daar wil ik in een komend bericht over ‘prompting‘ op terug komen.

De P van GPT staat voor pre-trained. Ik wil gaan begrijpen hoe dat werkt en wat de invloed is van pre-training op de prestaties van GPT en andere taalmodellen. Over de immens grote dataverzamelingen en gebruikt corpus hadden we het al. Inmiddels ben ik aan de kant van techniek en methoden veel onderwerpen en begrippen tegengekomen. Niet altijd doorgrond ik wat ze betekenen en wat hun belang is – het wordt tijd voor een meer systematische aanpak.

Om daarmee te beginnen heb ik Perplexity een aantal onderwerpen uit de AI voorgelegd waarvan ik vermoed dat ik ze moet gaan uitzoeken. Ik heb gevraagd of ze worden gebruikt in de pre-training fase van GPT. Dit is het antwoord:

Machine Learning: Ja, GPT maakt gebruik van machine learning.
Neural Networks: Ja, GPT is een type van large language model dat gebaseerd is op artificial neural networks.
Deep Learning: Ja, GPT maakt gebruik van deep learning.
Backpropagation: Hoewel backpropagation een belangrijk onderdeel is van het trainen van neural networks, wordt het niet specifiek genoemd in de context van GPT pre-training.
Bidirectional architecture: Ja, GPT maakt gebruik van een bidirectionele architectuur.
Supervised Learning: Nee, GPT maakt geen gebruik van supervised learning in de pre-training fase.
Unsupervised Learning: Ja, GPT maakt gebruik van unsupervised learning in de pre-training fase.
Zero-shot approach: Ja, GPT maakt gebruik van zero-shot learning.
Fine-tuning: Ja, fine-tuning wordt gebruikt om GPT te verbeteren.
Transformer: Ja, GPT is gebaseerd op de transformer architectuur.
Self-attention: Ja, self-attention is de basis van de transformer architectuur die gebruikt wordt in GPT.
Next Sentence Prediction: Ja, Next Sentence Prediction is een belangrijk onderdeel van de pre-training van GPT.

Dit is de lijst waarmee ik aan de slag ga, het is al wat dat ik kennelijk veel ‘goede’ woorden heb opgepikt. Gelukkig geeft Perplexity ook een waslijst aan bronnen.
Daarnaast wil ik verder werken aan het verhaal van de ‘seizoenen’ van AI in de afgelopen 80 jaar. Ik verheug me op de komende berichten.

We beginnen aan de ‘to do‘ lijst.

De ‘top 3’ van de lijst bestaat uit met elkaar samenhangende onderwerpen. Preciezer gezegd: deep learning speelt zich af in het domein van de neurale netwerken dat zelf weer geheel binnen het generiekere begrip machine learning valt, onderdeel van AI in algemene zin.

Ik schreef hier al eerder in algemene termen over het doel van machine learning, dat zo iets is als het herkennen en toepassen van patronen uit grote hoeveelheden data om een bepaald doel te bereiken.

In het geval van een groot taalmodel (LLM) is dat doel het voorspellen van het meest waarschijnlijke vervolg van een conversatie, op basis van woorden die er al staan en de context waarin de conversatie verloopt. Letterlijk het voorspellen van ‘het volgende woord’. Daar kom ik later weer op terug.

In een eerder bericht schreef ik over de perceptron en het McCulloch-Pitts model dat gebruikt kan worden bij binaire classificaties. Op een van mijn zijpaden in de historie van AI las ik dat een model met één laag niet meer werkt bij niet-lineaire verbanden. De publicatie (1969) hierover van Minsky en Papert veroorzaakte de eerste AI winter.

De ontdooiing kwam pas met de multilayer perceptron (MLP), of in meer algemene zin de neurale netwerken met (meerdere) ‘hidden layers‘). Daarom wilde ik graag weten bij welk soort vraagstukken een enkele laag in het neurale netwerk voldoende is, en in welke situaties een of meer extra lagen nodig zijn. Ik heb inmiddels aardig wat tutorials gelezen of als video gezien. De crux is, ik herhaal wat ik lees, dat situaties waarin sprake is van een zg. ‘uitsluitende of‘ (in logische terminologie: XOR) niet meer met een enkele laag te modelleren zijn.

Ik zocht ook eenvoudige voorbeelden die ik hier zou kunnen gebruiken, maar dat viel nog niet mee. Daarom probeer ik zelf een voorbeeld te construeren aan de hand waarvan ik kan uitleggen hoe het volgens mij in elkaar steekt.

De situatie is als volgt. Mijn fictieve ik werkt bij een organisatie waarin thuiswerken is toegestaan. Het is mij om het even of ik thuis werk of op kantoor, behalve als het regent, ik heb een enorme hekel aan nat worden. Mijn partner en ik hebben samen één auto en ook één paraplu. Mijn kantoor heeft een inpandige parkeergarage zodat er geen enkel probleem is als ik met de auto naar het werk kan. Met het OV gaat het ook wel als ik de paraplu bij me heb, maar ik vind het toch minder. Zonder auto of paraplu werk ik het allerliefst thuis.

Ik heb de machine geleerd uitspraak te doen of ik, in een gegeven situatie, thuis zal werken of op kantoor. Ik gebruik daarvoor het model van een neuraal netwerk.

De input nodes () zijn 0 of 1 waarden (niet of wel).
Voor de output node () geldt: betekent dat ik op kantoor werk, bij werk ik thuis.

• als ik over de auto kan beschikken, anders
• als ik de paraplu mag, anders
• En staat voor de weersituatie: als het mooi weer is, als het regent.
• Van belang is nog een constante, een referentiewaarde die in het jargon ‘bias‘ wordt genoemd. In dit voorbeeld is die benaming op zijn plaats, deze waarde drukt mijn weerzin uit tegen nat op kantoor komen, maar het is de term die algemeen gehanteerd wordt.

Mijn beslissing om naar kantoor te gaan of thuis te blijven hangt af van de gewogen samenhang van de genoemde factoren. We kennen er letterlijk gewichten () aan toe.

• Laten we mijn bias op 2 stellen, .
• Het gewicht van het kunnen beschikken over de auto stel ik op 5, .
  Voor het wel of niet regenen maak ik .
  En de paraplu is minder van belang, .
• De output y wordt bepaald door de waarde van de zg. activatiefunctie. In dit geval is dat .
• als een waarde boven 0 heeft, anders .

Hoe pakt het uit?

• het regent maar ik kan beschikken over de auto en paraplu. Dan is
• Het regent maar ik heb geen auto, wel een paraplu.
• Het regent en ik heb auto noch paraplu.
• Het is droog en ik heb auto noch paraplu.
• (en met auto en paraplu wordt nog meer)

Conclusie: de machine voorspelt bij deze bias dat ik bijna altijd op kantoor ga werken, maar niet als het regent en ik geen auto en geen paraplu heb. Merk op dat het verhogen van naar bijv. 3 of 4 er toe leidt dat ik vaker thuis werk als het regent.

Tot hier is het voorbeeld volkomen lineair, het kan met de enkellaags perceptron gemodelleerd worden.

We voegen een kleine complicatie toe.

Mijn eigen situatie blijft hetzelfde, maar op kantoor moet ik mijn werkplek delen met een collega. We kunnen niet tegelijkertijd op kantoor werken. En daarbovenop: onze werkgever vindt onze aanwezigheid op kantoor zo belangrijk dat er altijd één van ons aanwezig moet zijn. In de praktijk moet dus óf ik óf mijn collega op kantoor zijn (en samen kan dus niet).

Dit is een min of meer natuurlijke (nou ja) XOR situatie, een úitsluitende of. En ja, het eenlaags model stort onmiddellijk in. Niet uitsluitend mijn eigen situatie met zijn gewichten en bias bepaalt (activeert) of ik naar kantoor ga of niet. Mijn , om het zo te zeggen, bepaalt nu of ik naar kantoor zou willen of niet, maar als mijn collega er is op een droge dag zal ik toch thuis moeten werken. En als het regent terwijl ik geen auto of paraplu heb zal ik toch nat naar kantoor moeten gaan als mijn collega niet gaat.

Om deze situatie door de machine te laten voorspellen is een extra laag in het model nodig, het wordt een neuraal netwerk met 2 hidden layers. Het zou er als volgt uit kunnen zien, met als mijn collega ex machina, die waarschijnlijk zijn eigen deel van het netwerk heeft om te beslissen of hij naar kantoor gaat of niet, maar dat blijft hier achterwege. Zowel x (voor mijzelf) als (voor mijn collega) kunnen de waarde 0 of 1 aannemen, de uitkomst voor is in logische notatie XOR(, ). Een wiskundig equivalent zou kunnen zijn.

Machine learning in een neuraal netwerk met meer dan 3 lagen (incl. input en output) wordt deep learning genoemd.

‘Attention. Attention. Here and now boys‘. Op het eiland Pala, in de roman Island (1962) van Aldous Huxley, leven honderden mynah birds die getraind zijn de eilandbewoners met hun geroep in het hier en nu te houden.

Mynah birds bestaan echt, in Azië. In het Nederlands heten ze maina (Hindi voor ‘spreeuw’). Ze staan bekend om hun vermogen geluiden na te bootsen, inclusief menselijke spraak. Het lijkt of ze ‘echt’ kunnen praten, maar het is alleen nadoen, napraten. Ze papegaaien (hoewel het dus spreeuwen zijn). Wel wordt er door sommigen gedacht dat de vogels gevoel voor context of betekenis zouden moeten hebben, maar daar is geen bewijs voor.

Is het niet grappig dat tegenwoordig precies hetzelfde gezegd wordt over taalmodellen en chatbots, zoals ChatGPT?

Het zou hier wel erg off topic zijn om Aldous Huxley in verband te brengen met AI, al zou het kunnen als het gaat over zijn gedachten over perceptie en bewustzijn. Mijn associatie nu ligt echter bij het concept Attention.

In 2017 verscheen het artikel Attention is all you need van Ashish Vaswani et al. Hij en zijn medeauteurs werkten voor Google, dat al volop bezig was met neurale netwerken op het gebied van taalmodellen en machinevertaling.
Het artikel introduceert de Transformer architectuur van neurale netwerken. Inderdaad de ‘T’ van GPT. Het zogenoemde attention mechanism vormt er de kern van. De Transformer architectuur is een pijler van GPT en een van de sleutelelementen waarnaar ik op zoek ben gegaan.

In volgende berichten kom ik op het transformer aspect terug, ik zal dan ook proberen uit te leggen hoe, en in welke architectuur, aandachtsmechanismen worden toegepast. Het gaat om systemen die gebruikt worden om sequence-to-sequence taken te leren en uit te voeren, seq2seq in het jargon. Een vertaalsysteem is er een voorbeeld van. De invoer is een zin in de ene taal, de uitvoer is ook een zin maar dan in de andere taal. Beide zinnen zijn sequenties. Ook voor grote taalmodellen, LLM, zijn sequenties van belang – de in vloeiende natuurlijke taal geproduceerde antwoorden worden letterlijk woord voor woord opgebouwd.

Invoersequenties zijn niet zomaar geschikt om ‘woord voor woord’ gebruikt te worden. Grammaticale volgordes zijn van taal tot taal verschillend, het aanhouden van de oorspronkelijke woordvolgorde leidt tot kromme vertalingen. En van oudsher is de linguïstische uitdaging dat de betekenis van een woord soms moet worden afgeleid uit de plaatsing in de zin.
In generatieve AI systemen zijn sommige woorden in de invoer van groter belang voor de context en betekenis dan andere. En sowieso is het van belang om daar enig zicht op het geheel te houden.
Het gebruik van aandachtsmechanismen is een technische manier om het systeem bij de les te houden, een interne mynah bird die er voor zorgt dat er gelet blijft worden op de belangrijkste elementen in de invoer.

Here and now, boys. Ik doe zelf vrolijk mee met het gebruiken van antropomorfe metaforen en het is verleidelijk om te doen alsof computers sequenties van woorden kunnen gebruiken zoals wij die lezen. Het zijn niet de minste kranten die schrijven “ze (=ChatGPT) stelen onze teksten” als het gaat over het corpus waarmee de grote taalmodellen getraind worden.

Het is een vorm van antropocentrisch denken die ons niet ver genoeg brengt. Niet in mijn zoektocht waar deze website over gaat, en zeker niet in de werkelijke of juridische wereld waar precisie en zorgvuldigheid tellen.

Ik zal iets technischer moeten worden over de aard van de ‘sequenties’ waar we het over hebben. Computers kunnen weliswaar goed met data uit de voeten, maar alleen (!) als het getallen zijn. Een computer rekent immers… Daarom moeten alle gegevens die we willen invoeren omgezet worden in getalsmatige vormen, ook de woord sequenties waar het hier over gaat. Uiteraard is het resultaat dat de computer bereikt ook getalsmatig van aard, en zal het voor mensenogen naar woord sequenties omgezet moeten worden.

Jargon. Het omzetten van tekst naar getalsmatige vormen wordt vectorisatie genoemd, die vormen heten word embeddings. Dit soort systemen zijn encoder-decoder systemen.

Thuis zorg ik vaak voor de koffie, maar om nu te zeggen Ik ben barista gaat wat ver. Als ik nou de ene week blogs zou schrijven en de andere week alleen maar voor koffie zou zorgen, dan zou Van de week ben ik barista kunnen kloppen.
En als ik een carrière bij Starbucks nastreef kan ik misschien ooit met trots zeggen Ik ben barista van de week.

Andere woorden in de buurt van een woord in een tekst bepalen mede de betekenis van dat woord. Bovendien heeft de woordvolgorde invloed op betekenis van woorden, in relatie met hun plaats in een zin. Voor machinevertalingen zijn dat grote uitdagingen.

Ik ben barista --> I am a barista
Van de week ben ik barista --> This week I am a barista
Ik ben barista van de week --> I am barista of the week

Machinevertalingen vinden plaats in een encoder-decoder systeem. De invoersequentie kan duidelijk niet woord voor woord worden afgehandeld. Bij elk woord in de zin moet het systeem weten welke woorden er eerder kwamen, en liefst een beetje vooruit kijken naar woorden die nog gaan komen om een adequate vertaling te kunnen geven. Ook taalmodellen voorspellen de meest waarschijnlijke uitvoer, op basis van de op de prompt gebaseerde context en de woorden die er al staan.
Jargon. Het gaat hier om sequence transduction models, omzettingsmodellen.

De computers waarop deze modellen draaien voeren sequence-to-sequence taken uit. Ze lijken in staat in vloeiende natuurlijke taal te reageren op invoer door de gebruiker, de prompt. In werkelijkheid vindt de keuze voor een vervolg in de reactie woord voor woord plaats.

Een manier om om te gaan met het volgorde- en contextprobleem is het inzetten van neurale netwerken met voldoende hidden nodes om gegevens over de woorden in de tekst vast te houden totdat de gehele sequentie aan bod is geweest. Daarbij moet steeds worden teruggekeken, dit zijn zogeheten Recurrent Neural Networks (RNN).

Bij grote tekstomvang werken RNN niet meer goed. Het aantal mogelijkheden dat in de lucht gehouden moet worden neemt exponentieel toe met de omvang van de tekst. En als twee woorden, die elkaar in betekenis beïnvloeden, ver uit elkaar staan is het RNN soms het eerste woord ‘vergeten’ als het tweede woord aan de beurt is: er is geen (geheugen)ruimte om beide woorden te blijven bedienen.
De Transformer architectuur lost het performance probleem op door het coderen en decoderen parallel uit te laten voeren.

Dit is het plaatje van de Transformer model architectuur uit het oorspronkelijke artikel Attention is all you need uit 2017.

Afbeeldingen en schema’s van ‘gewone’ neurale netwerken kom je op internet in allerlei zelfgemaakte varianten tegen. Maar dit plaatje … vrijwel ieder vervolgartikel neemt het ongewijzigd over.

Het is wat mij betreft het grondplan van een digitaal monument, een kathedraal van de AI.

De Transformer architectuur vraagt fors wat toelichting, daar gaat het in volgende berichten over. Ook kijken we naar de technische voorbewerking, de zogenoemde preprocessing, die nodig is om computers aan het werk te zetten met een taalmodel, zowel bij de pre-training als bij het gebruik in de praktijk.

Computers kunnen niet zo maar werken met tekst. Woorden en zinnen moeten eerst omgezet worden in getalsmatige vormen. Die vertaling, vectorisatie, is de laatste stap in een serie voorbereidingen die de preprocessing pipeline wordt genoemd.

In deze processtap wordt de tekst gesplitst, in stukjes gehakt. Zo’n stukje wordt een token genoemd. De tokens vormen de bouwstenen voor het vervolg.
Vaak wordt er met woord tokens gewerkt (ik gebruik | om de splitsing zichtbaar te maken, het symbool zelf is geen token):
De | kat | zat | op | de | mat | .
Merk op dat de punt waarmee de zin afsluit ook als token wordt neergezet.

Sommige woorden worden in subwoorden getokeniseerd:
De | groot | ste | kat | zat | op | de | klein | ere | mat | .
Zo hoeven grootste en kleinste niet als ‘nieuwe’ woorden behandeld te worden, maar kunnen ze in verband met groot en klein gebracht worden. De tokens ste en ere zijn dan generiek voor alle woorden met een overtreffende of vergelijkende trap.

Dit proces wordt bij deep learning en grote taalmodellen steeds minder gebruikt. Die modellen leren zo goed en snel dat ze zelf kunnen afleiden welke vormen bij elkaar horen.

In de Transformer architectuur wordt een manier gebruikt die fixed positional encoding wordt genoemd. Met behulp van sinus en cosinus functies wordt informatie over de positie van woorden in de input sequentie gevoegd.

Visualisering van een matrix waarin woordposities zijn vastgelegd.
Bron: Transformer Architecture: The Positional Encoding (Amirhossein Kazemnejad, sep 2019).

Natuurlijk ben ik niet de enige die het belang van de Transformer model architectuur voor de ontwikkeling van AI hoog inschat.

Je vindt daarom op internet een overvloed aan presentaties en video’s met uitleg van de architectuur. Het ligt misschien aan mijn nieuwigheid op dit terrein, maar een aantal ervan kan ik niet goed volgen, ik raak de draad kwijt of snap de strekking van het verhaal niet.
En veel andere gaan niet diep genoeg of praten andere na. Zó belangrijk, die multi-head attention… maar ik blijf zitten met vragen. Waarom dan? En hoe?

Ik was van plan om hier een gedetailleerde uitleg van het oorspronkelijke artikel te geven, voor mij de snelste manier om de materie zelf te leren begrijpen. Bij nader inzien kies ik voor een splitsing in de uitwerking. In dit bericht staan de conceptuele hoofdlijnen, in een later bericht komen de technische en wiskundige details.

Waar waren we ook al weer?

• We zijn in de wereld van deep learning, natuurlijke taalverwerking en de grote taalmodellen.
• Die modellen ondergaan een pre-training op een tekstcorpus van onvoorstelbaar grote omvang en variëteit en zijn daarna in staat om gebruikersinvoer in natuurlijke taal te interpreteren en er op te reageren, output te geven, ook in natuurlijke taal.
• Die output wordt letterlijk woord voor woord gemaakt door na elk ‘afgeleverd’ woord vast te stellen welk woord nu het meest plausibel is voor het vervolg.
• De mate van plausibiliteit wordt bepaald door de input van de gebruiker, de context die daardoor wordt opgeroepen en de ‘ervaring’ van het getrainde systeem. En marge wil ik hier opmerken dat ‘plausibiliteit’ niets zegt over ‘waarheid’ of ‘correctheid’.
• De computers waarop deze modellen worden uitgevoerd doen sequence-to-sequence taken. De invoer bestaat uit sequenties van woorden en ook de uitvoer bestaat weer uit zulke sequenties.
• Een computer kan alleen met getallen werken. De talige invoer wordt omgezet in reeksen getallen. Daarmee worden berekeningen uitgevoerd die leiden tot nieuwe reeksen getallen. Die worden daarna zelf weer omgezet naar woorden en zinnen. Zie hier voor een overzicht van het benodigde voorwerk.
• Taal is weerbarstig als het om betekenis gaat. Volgorde van woorden doet er toe voor de betekenis van zowel individuele woorden als de hele tekst, net als het voorkomen van een combinatie van woord met andere woorden. Niet elk woord in een sequentie is van even groot belang voor de betekenis van de hele zin of tekst.

Architectuur

• Van belang is dat de neurale netwerken die taalmodellen moeten uitvoeren zodanig zijn ingericht dat zowel volgorde als plaats van een woord in een tekst kan worden herkend, opgeslagen en gebruikt bij de verdere verwerking. Zoals men zegt: die netwerken moeten voor dit doel een geschikte architectuur hebben.
• Alle sequence-to-sequence taken kunnen in principe uitgevoerd worden met neurale netwerken die een recurrente architectuur hebben, met vele hidden layers, maar in de praktijk lukt dat niet bij meer omvangrijke tekstuele input. Eerlijk gezegd wordt de grens al vrij snel bereikt omdat het aantal benodigde layers (en daarmee het benodigde computergeheugen) kwadratisch toeneemt. In de praktische uitvoering worden daarom niet alle benodigde lagen ingezet, met inhoudelijke gevolgen.
• Recurrente architecturen hebben minstens twee nadelen.
  • Bij de uitvoering van de taken moeten woorden steeds een voor een worden verwerkt. Bij grotere teksten is de trage verwerking die hier het gevolg van is een onoverkomelijk probleem.
  • Als een woord dat van essentieel belang is voor de betekenis van een tekst ‘te ver’ vooraan staat is het model dat woord al weer ‘vergeten’ vanwege de beperking in benodigde hidden layers.
• De Transformer architectuur van een deep learning model wordt als een doorbraak gezien.
  • Door het gebruik van aandachtsmechanismen, zoals self attention, wint het vaststellen van betekenisverwantschap sterk aan kwaliteit. Binnen een context wordt een woord in relatie gebracht met alle andere woorden van die context. Per woordcombinatie wordt een gewicht bepaald. Van de context worden geen woorden vergeten of weggeschoven.
  • De gewichten zijn ‘leerbaar’, dat is de essentie van deep learning modellen. Aan de hand van een zogenoemde ‘loss function‘, een rapportcijfer voor het verschil tussen huidig en gewenst resultaat, worden de gewichten ingeregeld totdat een optimaal resultaat ontstaat. Feed forward en backward propagation zijn hier de jargon woorden die aangeven dat het een ‘heen-en-weer’-proces is.
  • Zo opgeschreven wordt niet alleen de output woord voor woord bepaald, maar worden de woorden in de context die er toe doen ook een-voor-een ingeregeld. De Transformer architectuur maakt een parallelle afhandeling mogelijk, dat is wat in het plaatje Multi-Head Attention wordt genoemd.
  • Aan het einde van een deep learning cyclus worden de gewogen uitkomsten onderling vergeleken. Op basis daarvan wordt het meest plausibele volgende woord bepaald. In het jargon: next-token prediction.

Wiskunde

De wiskunde die er bij te pas komt bestaat vooral uit het rekenen met vectoren, in het bijzonder met het inproduct van vectoren, dot product in het Engels (ook wel scalair product). De vectoren zijn woordvectoren waarin een groot aantal eigenschappen, features, getalsmatig is vastgelegd. Het inproduct van twee vectoren is één enkel getal, dat een maat vormt voor de mate van verwantschap in de betekeniseigenschappen.

Bij één woord hoort één vector. De woorden uit een zin, of nog ruimere context, hebben een verzameling vectoren die je in de vorm van een matrix kunt opschrijven. Matrixrekening is de wiskundige discipline die hier van pas komt en die je in staat stelt de berekeningen voor de tekst die onderhanden is in één greep zichtbaar te maken.

Naast alle matrixberekeningen zijn er nog wiskundige functies nodig om uiteenlopende teksten vergelijkbaar te maken: normalisatie. Tot slot wordt aan de hand van de scores bepaald welk woord, welk token, wordt voorgedragen voor ‘meest plausibel’. Hiervoor wordt de Softmax-functie gebruikt die je ook in de afbeelding genoemd ziet staan.

Het oorspronkelijke artikel over de Transformer architectuur stelt allereerst structuur en bewerkingsstrategie vast, en doet daarbij een suggestie voor het wiskundig instrumentarium dat je zou kunnen gebruiken. Zoals ik het nu zie is het wiskundig instrumentarium precies wat het zegt: een verzameling hulpmiddelen om verbanden te beschrijven en vast te leggen, met aspecten van normeren en optimaliseren er in. Er is niet nog een semantische, ‘diepere’, betekenis van de gebruikte wiskunde.

In een volgend bericht wil ik aan de hand van een voorbeeld de structuur en de stappen doorlopen. Zo kan ik ook testen of mijn inschatting van de aard van de benodigde wiskunde (= instrumentarium) terecht is.

Zou het altijd gelijk op gaan – snelheid en impact van ontwikkelingen op een bepaald gebied en de hoeveelheid onzin en schone schijn berichten er over? Voor AI lijkt het wel zo te zijn.

Het gaat mij daarbij niet om de overtrokken enthousiaste juichverhalen over wat er allemaal zou kunnen, maar om de, al dan niet bedoeld, misleidende berichten. Nepnieuws, niet waar te maken claims van commerciële aanbieders en verkeerd begrepen of toegepaste methoden, ook door serieuze wetenschappers en ontwikkelaars.

De Amerikanen hebben een geweldige benaming voor dit soort communicatie: snake oil. Terug te voeren op de kwakzalvers die in het kielzog van de trek naar het westen hun wondermiddel tegen alle kwalen aan de goedgelovige pioniers probeerden te slijten. Immediate Relief!

Zelf lees ik met genoegen de artikelen op AI Snake Oil waar geprobeerd wordt misleidingen te ontmaskeren. Ik zal er regelmatig verslag van doen, want ook voor een enkel bericht dat ik zelf voor deze site heb gemaakt blijkt de basis wankel te zijn. Bijvoorbeeld het bericht over het ‘dommer’ worden van ChatGPT. Ik kom er op terug.

Het hoofdstuk met deze titel in De MANIAC van Benjamín Labatut gaat over de vierde partij die AlphaGo en Lee Sedol spelen in hun legendarische Go tweekamp in 2016. Labatut introduceert Sedol als “… de enige mens die ooit in toernooiverband een geavanceerd kunstmatige intelligentiesysteem heeft verslagen.”

Beeld uit de documentaire AlphaGo

Ik schreef in Move 37 over de iconische zet van de computer in de tweede partij, die een kantelpunt zou markeren in de ontwikkeling van AI. Een zet van de computer die op het moment zelf door alle experts werd afgedaan als onzinnig, een fout, maar feitelijk de winnende zet is. De kans dat een mens die zet zou doen werd ingeschat op minder dan 1:10.000. De zet zelf werd daardoor beoordeeld als in hoge mate creatief en intuïtief.

De tweekamp eindigt met de stand van 4-1 in het voordeel van de computer. Gegeven de aard van het Go spel als ultieme uitdaging voor de menselijke intelligentie en creativiteit werd de prestatie van het AI systeem gezien als een belangrijke stap naar het niveau van menselijke intelligentie.

Maar Sedol wint één partij, de vierde, Labatut doelt daarop in zijn introductie. Ook die partij kent een kantelpunt zoals in de tweede partij. Nu is het de 78e zet, een zet van de menselijke speler Lee Sedol.

Na het lezen van De MANIAC, een fascinerend boek, heb ik de gehele documentaire AlphaGo bekeken. Daar komt ook de kant van de ontwikkelaars van DeepMind uitgebreid aan bod. AlphaGo verliest de vierde partij omdat het na die 78e set volledig de draad kwijt raakt.

Het systeem verliest zich in het nazoeken van mogelijke winnende voortzettingen, tot aan wel 95 zetten diep (terwijl 50-60 normaal was). Tevergeefs want zulke zetten waren niet aanwezig in de kennisbasis van AlphaGo en ook niet in bereik van zijn zoekmethode MCTS, Monte Carlo Tree Search, een op kansrekening gebaseerde simulatie.

De ontwikkelaars hebben de hele partij nog een keer met het systeem nagespeeld, met verwisseling van de spelers. De inschatting van de 78e zet van Sedol was: een verwaarloosbare kans van minder dan 1:10.000 dat een mens die zet zou doen. Het spiegelbeeld van Move 37.

De zet wordt in Korea de hand van God genoemd. Bij DeepMind waren ze wat pragmatischer, ze concludeerden dat de zwakte van AlphaGo is dat het getraind is op honderdduizenden partijen die door mensen gespeeld zijn – goede spelers, maar goddelijke zetten zaten er niet bij.

Ze hebben daarna het roer helemaal omgegooid. Het systeem werd volledig gestript van alle menselijke labeling. De training van het nu weer lege systeem bestond volledig uit partijen die het tegen zichzelf speelde. Zo maakten ze een nieuw AI systeem, AlphaZero. Het is niet alleen een betere variant van AlphaGo, maar ook in staat om op dezelfde manier andere spellen, zoals bijv. schaken, te leren (en te winnen) én om andere cognitieve taken uit te voeren. Zo is er inmiddels een variant, AlphaFold, die voorspellingen doet over nieuwe complexe eiwitstructuren met een nauwkeurigheid die vergelijkbaar is met experimentele methoden.

Move 37 is een mijlpaal in de ontwikkeling van AI, maar als je een kantelpunt zou willen aanwijzen dan is dat, achteraf gezien, zet 78 in de vierde partij. De zet was niet winnend voor AI, maar wijst de weg naar werkelijk zelf lerende systemen die alle cognitieve taken aan kunnen. In het huidige discours wordt het AGI genoemd, Artificial General Intelligence. Het is de heilige graal in AI research.

Gemini zal een serieuze stap zijn op weg naar AGI. Verontrustend? Mogelijk wel want de ‘intelligentie’ van AGI overstijgt wellicht de menselijke intelligentie – en brengt ‘de hand van God’ dichterbij. Het zou kunnen dat Gemini als open source wordt neergezet, maar dat het allemaal bij Google zit is niet per se geruststellend. Waar zit de schakelaar?

Een taalmodel levert resultaat op basis van next-token prediction, het voorspellen van het meest plausibele vervolg van een tekst. Ik wil achterhalen hoe dat technisch gezien in zijn werk gaat. Het is een deel van de licht wiskundige uitwerking die ik eerder aankondigde.

• Semantische overeenkomsten
• Attention mechanisme
  • Inproduct (dot product)
  • Normalisatie
  • Omduwen met gewichten
• Voorbeeld

Semantische overeenkomsten

I swam across the river to get to the other bank
I drove across the road to get tot the other bank

De afbeelding laat zien hoe de wolk eruit ziet in de nabijheid van het woord ‘bank‘. In het corpus van 71.291 (verschillende) woorden komt bank 1.806 keer voor. Voor de overzichtelijkheid heb ik ingesteld dat de 100 dichtstbijzijnde woorden worden getoond.

Als je de afbeelding groter maakt (een keer klikken) zie je bank, en een cluster woorden uit de financieel-economische hoek. Rechtsboven zie je toch ook woorden die met ‘water’ te maken hebben (coast, river, canal, …).

Attention mechanisme

Voor ons voorbeeld zou je willen dat er vanuit het woord bank (blijvende) ‘aandacht’ is voor de andere woorden in de tekst die immers meer of minder gewicht in de schaal leggen voor de betekenis. Het liefst zou je de relatie van bank met alle andere woorden in de context willen beoordelen, willen scoren.
In het plaatje geven kleur en dikte van de pijlen al een suggestie van het gewicht van de onderlinge verhoudingen met het woord bank.

We volgen de stappen die ik eerder als voorbereidingen in de preprocessing pipeline heb benoemd.

Voor onze voorbeeldzin halen we vervolgens voor elk woord de woordvector op uit de (een) semantische vectorruimte.

NB Alle grote taalmodellen (GPT, Claude, Bard, andere) hebben hun eigen semantische vectorruimtes, gebaseerd op het tekstcorpus waarop het getraind is.

We verschuiven, verdraaien, de vector v van elk woord in de tekst naar een gecontextualiseerde versie, vector y. Hierbij is aandacht voor de hele tekst, want het moet een weerspiegeling zijn van het belang van elk woord voor het geheel. Het mechanisme heet self-attention.

Hoe gaat het in zijn werk? In de afbeelding is schematisch weergegeven welke stappen je moet volgen om de v-vectoren te transformeren in y-vectoren waarin de context is meegenomen. Elke stap vergt wat uitleg, die hieronder in drie episodes volgt.

Episode 1: inproduct scores van vectoren

Terug naar het contextualiseren van onze oorspronkelijke zin. We hebben de woorden in de zin voorzien van woordvectoren waarin eigenschappen van de woorden (eigenlijk de tokens) getalsmatig zijn vastgelegd.

Een vaak gebruikte visualisering van dit soort scores is een tabel met grijswaarden. Hoe lichter de cel, hoe groter de verwantschap. Wordt ook wel heat map genoemd (maar dan worden meestal kleuren gebruikt).

Omdat ook elk woord met zichzelf in verband is gebracht via het inproduct zie je op de diagonaal de grootste verwantschap. Het deel boven de diagonaal en het deel er onder zijn elkaars gespiegelde.

Episode 2: normalisatie

Episode 3: woordvectoren omduwen met gewichten

Ter illustratie

Een voorbeeld in 2 dimensies. Stel, we hebben drie woorden in een corpus (kat, hond, cactus) die elk een woordvector hebben met een getalswaarde voor twee eigenschappen (leeft in huis, aaibaar).

De inproducten in ons tweedimensionale voorbeeld laten zich eenvoudig berekenen.

Kat en hond hebben onderling veruit de grootste verwantschap als het om de eigenschappen leeft in huis en aaibaar gaat. Met de gegeven waarden is de kat het meest aaibaar.

De semantische vectorruimte zou er zo uit kunnen zien:

1

Mijn buurman heeft een hond en een kat. Als ik ‘s avonds langs zijn huis loop zie ik hem op de bank naar tv kijken. Op de mat naast de bank zit zijn ….. die hij graag mag aaien.

> Vul in wat er op de puntjes staat.

Met de gegeven waarden in de semantische ruimte van het taalmodel ligt het voor de hand dat het model kat als de meest plausibele keuze ziet.

2

Ik vul de prompt aan met de vermelding dat de hond een Labradoodle is, en de kat van het haarloze ras Sphynx. Zie de fotootjes.

Labradoodle en Sphynx hebben hun eigen semantische vectoren, misschien wel (0.7, 0.4) voor de kat en (0.6, 0.85) voor de hond. De nieuwe informatie geeft contextuele gewichten waarvan de toepassing kan leiden tot het omduwen, verdraaien, van de oorspronkelijke vectoren voor kat en hond naar de meer specifieke van Labradoodle en Spynx. Met misschien een andere voorspelling voor de gatentekst.

NB Het voorbeeld schiet tekort omdat er geen semantiek voor de overige woorden in de context in zit, de berekening van gewichten zoals hierboven valt daardoor niet zonder meer te maken. Het concept van de context afhankelijke verdraaiing van een semantische woordvector blijft wel geldig.

Scaled Dot-Product Attention

In het oorspronkelijke artikel over de Transformer architectuur staan drie schema’s:

• Scaled Dot-Product Attention
• Multi-Head Attention
• Overzicht van de architectuur met encoder-decoder

Samen met een voorziening om de posities van woorden in een context te bewaren zijn dit de basiscomponenten van de Transformer architectuur.

Informele uitwerking

Attention mechanisme (informeel)

Het plaatje hiernaast geeft op een informele manier het mechanisme Attention weer. In een eerder bericht staat het wat verder uitgewerkt en staan ook de termen toegelicht.

Weergegeven zijn 3 woordvectoren van woorden (tokens) uit een context. Op zoek naar de mate van verwantschap tussen de woorden geven we er scores aan door het inproduct te nemen van elk van de vectoren met de andere (inclusief zichzelf). In het plaatje staat het voor weergegeven.

Na een normaliseringsslag krijgen we gewichten tussen 0 en 1. Vermenigvuldigd met de oorspronkelijke vectoren en daarna opgeteld krijgen we vector (bij ). Zo ook voor de andere vectoren.

Het geheel van bewerkingen heet het Attention mechanisme, en het maakt van de directe representatie van een tekst (context) een gecontextualiseerde versie.

• De berekening van het inproduct is de onderste MatMul (matrix-vermenigvuldiging) in het schema. Meestal gebruiken wij als notatie voor het inproduct . Dot product immers. Wiskundig gezien is het inzichtelijker om het als matrix vermenigvuldiging te schrijven: .
• In het blok Normaliseren zijn de bewerkingen Scale en Softmax uit het schema gecombineerd.
  • Bij het schalen worden alle inproduct-waarden vermenigvuldig met waarbij d de lengtedimensie van de vectoren is. Zo worden de scores, d.i. de waarden van de inproducten, niet al te groot.
  • De Softmax functie zorgt er voor dat de gewichten uiteindelijk allemaal getallen tussen 0 en 1 zijn, zodanig dat per vector de som van de gewichten gelijk aan 1 is.
• De berekening van de gecontextualiseerde vectoren in ons plaatje is de bovenste MatMul in het schema.
• In het schema staat nog de optionele Mask. Deze wordt gebruikt bij ‘gatentekst’-achtige taken (zoals bij seq2seq vertalingen).

Contextvectoren door gewichten

Query, Key en Value

Matrices

De laatste stap: next token prediction

Het totale schema uit het oorspronkelijke artikel zie je hier, de encoder in het linkerdeel, de decoder staat rechts. Merk op dat er bij beide “Nx” naast staat, dat wil zeggen dat eenzelfde onderdeel N maal herhaald wordt, afhankelijk van de complexiteit van de situatie.

Helemaal rechtsboven zie je de uitvoer staan, Output Probabilities. Die wordt geproduceerd door een Softmax component en een Linear component die worden toegepast op de output die de decoder verlaat.

De Linear laag is een volledig verbonden neuraal netwerk (een zg. dense neural network) die de contextvectoren die uit de decoder komen omzet in een veel grotere vector, de zg logits vector. Deze vector bevat de waarschijnlijkheden van alle mogelijke uitkomsten die het taalmodel kent en kan verbinden aan de contextvectoren.

Formule

Ruim 20 jaar voor zijn twijfel aan de nieuwe inzichten had Einstein zelf een nieuw inzicht vastgelegd over de relatie tussen massa en energie, samengevat: . De formule is vaak geciteerd, te pas en te onpas wellicht, en is een icoon geworden voor een kantelpunt in de natuurwetenschappen. T-shirt waardig…

Matrices

Het meest waarschijnlijke volgende woord

Het totale schema uit het oorspronkelijke artikel zie je hier, encoders staan links, decoders rechts. Aan beide kanten staat “Nx”, dat wil zeggen dat eenzelfde onderdeel N maal herhaald wordt, afhankelijk van de complexiteit van de situatie. In het artikel is N=6.

Voor uitleg verwijs ik naar elders, hier wil ik het hebben over de uitvoer die je rechtsboven ziet staan, Output Probabilities. Die uitvoer wordt volgens het schema geproduceerd door een Softmax component en een Linear component die werken op de output die de decoder verlaat, output die bijna volledig met matrixberekeningen tot stand is gekomen.

De Linear laag is een volledig verbonden neuraal netwerk (een zg. dense neural network) die de contextvectoren die uit de decoder komen omzet in een veel grotere vector. Deze vector bevat scores van alle mogelijke uitkomsten die het taalmodel kent – een zeer ruime verzameling tokens – die in relatie zijn gebracht met de contextvectoren.

Wellicht is er helemaal geen parallel, maar ik neem in elk geval de kans te baat om een geweldige, zeer tot mijn verbeelding sprekende, foto te laten zien. Op de foto staan de 29 deelnemers aan de 5e Solvay conferentie van 1927, een jaar na de God-dobbelt-niet uitspraak van Einstein. Ze spreken daar over de kwantumfysica, met name over het onzekerheidsprincipe van Heisenberg en de golf-of-deeltje opvattingen. Er zijn een paar facties daar, die het beslist niet met elkaar eens zijn, maar op de groepsfoto zie je er niks van.

Een team van DeepMind heeft op 4 november 2023 een artikel gepubliceerd met een voorstel voor “… a framework for classifying the capabilities and behavior of Artificial General Intelligence (AGI) models and their precursors...”.

De auteurs definiëren verschillende niveaus – Levels of AGI. Ze passen die toe op zowel Narrow AI als General AI, met voorbeelden voor een inschatting van de huidige stand van zaken.

Casuïstiek

Principes en uitgangspunten

1. Focus op bekwaamheid (capability), niet op proces.
   Het gaat er om wat een AGI voor elkaar kan krijgen, niet om het mechanisme dat wordt gebruikt. Daarmee blijven we ook ver van de discussie of systemen kunnen ‘denken’ of ‘begrijpen’.
2. Focus op zowel algemeenheid (generality) als prestatie (performance). Prestatie is per definitie altijd narrow, specialistisch.
3. Focus op zowel cognitieve als metacognitieve taken. De vraag of er bij AGI ook sprake moet zijn van een fysieke component, een robot zeg maar, laten we hier in het midden.
4. Focus op potentieel, niet op realisatie of uitvoering (deployment).
5. Focus op ecologische waarde – AGI die de halve aarde aan resources nodig heeft is niet waardevol.
6. Focus op het pad naar AGI, niet een enkel eindpunt.

Taxonomie

1. Emerging. Op dit niveau presteert de AI gelijk of iets beter dan de gemiddelde mens die niet over specifieke vaardigheden beschikt.
2. Competent. Prestaties zijn minimaal in het 50e percentiel van volwassenen met relevante kennis en vaardigheden (skilled adults), niet het algemene publiek.
3. Expert. Prestaties minimaal in het 90e percentiel van de skilled adults.
4. Virtuoso. Prestaties minimaal in het 99e percentiel. Vergelijk: bij IQ tabellen komt het 99e percentiel overeen met een IQ van 135.
5. Superhuman. Betere presentaties dan 100% van de mensheid. Bij Narrow AI wordt dit niveau al door sommige systemen gehaald, denk aan AlphaFold bij het voorspellen van de 3-dimensionale configuratie van een eiwit op basis van de lineaire sequentie van aminozuren (meestal ligt het aantal letters in een DNA-string rond de 1600).
   Als het om het algemene bereik van cognitieve en metacognitieve vaardigheden gaat is dit het niveau dat we eerder als ASI, Artificial Super Intelligence hebben aangeduid.

De niveaus zijn in de afbeelding opgenomen, met twee ‘lijnen’ conform principe 2.: Narrow resp. General. Waar mogelijk is per onderdeel een aantal voorbeelden opgenomen. Voor Narrow AI is er op elk niveau nog wel iets te vinden, in de lijn General AI is er alleen bij Emerging een eerste aanzet – bij de huidige taalmodellen – bij de andere niveaus van AGI zijn nog geen voorbeelden te geven.

Wanneer is AGI ook echt AGI?

De gekozen taxonomie vergt een gedegen uitwerking van testmetingen en benchmarking. Ook dit onderwerp staat nog aan het begin van de rit, zeker als je de gekozen uitgangspunten als – streng – beoordelingskader zou willen gebruiken. Daar waar het gaat om performance geven de percentiel grenzen mogelijkheden om te ‘meten’. maar als het om de brede algemeenheid gaat zijn er vooral nog openstaande vragen.
Welke verzameling taken moet je definiëren om algemeen genoeg te zijn? En als je die taken dan hebt bepaald, welk deel met succesvolle uitvoering bepaalt dan het niveau?
Zijn er knock-out criteria – taken die in elk geval succesvol gedaan moeten worden om een bepaald AGI niveau te halen? Bijvoorbeeld meta-cognitieve taken? En zo voort.

De auteurs pleiten voor een AGI benchmark die een brede verzameling cognitieve en metacognitieve taken omvat, waaronder in elk geval taken op het gebied van taalkundige intelligentie, wiskundige en logische redeneringen, ruimtelijk inzicht, sociale intelligentie, het vermogen om nieuwe vaardigheden aan te leren en creativiteit. En als je de AI vergelijkt met de performance van een mens op dezelfde taken, mag die mens dan technologische hulpmiddelen gebruiken, waaronder AI-tools?

Het ontwikkelen van een AGI benchmark wordt een uitdagend en iteratief proces, volgens de auteurs, en een richtpunt voor de AI research gemeenschap.

Autonomie

1. Gereedschap (tool). Mensen hebben volledige controle en gebruiken AI om dagelijkse (sub) te automatiseren
2. Adviseur (consultant). AI speelt een belangrijke en zelfstandige rol, maar alleen nadat mensen dit hebben gevraagd.
3. Meewerker (collaborator). Gelijkwaardige samenwerking tussen mens en AI, met een interactieve coördinatie en afstemming van doelen en uitvoering.
4. Expert (expert). AI heeft hier het initiatief, mensen geven begeleiding en feedback en helpen soms mee op aanwijzing van de expert.
5. Zelfstandig agent (agent). De AI is hier volledig autonoom, hoeft niet aangezet of gevraagd te worden maar neemt zelf initiatieven.

Risico’s

Het grapje is dichter bij de werkelijkheid dan ik kon vermoeden. In overdrachtelijke zin dan. Lees verderop waarom ik denk dat deze soap direct verband houdt met onverwachte vorderingen op het gebied van Artificial General Intelligence.

• De CEO van OpenAI, Sam Altman, wordt op vrijdag 17 november onverwacht en onverhoeds ontslagen door het bestuur van de not-for-profit organisatie die 51% zeggenschap heeft over het bedrijf OpenAI global, de uitbater van o.a. ChatGPT.
• Dit gebeurt in een videomeeting van een deel van dat bestuur. Chief scientist Ilya Sutskever voert het woord. De voorzitter van het bestuur, Greg Brockman, is niet uitgenodigd voor de sessie en krijgt direct na afloop te horen dat hij voorzitter af is maar nog wel mag blijven als hoofd wetenschapper. Brockman neemt dezelfde dag nog ontslag.
• Er wordt uit eigen kring een nieuwe CEO aangesteld, Mira Murati, die enkele uren later al weer wordt vervangen door een externe benoeming.
• Ilya Sutskever post een bericht op X waarin hij spijt betuigt over wat hij gedaan heeft.
• Microsoft, met 49% zeggenschap over het bedrijf, is niet geïnformeerd. En ook niet amused. Sam Altman is het boegbeeld van OpenAI, Microsoft heeft vele miljarden geïnvesteerd in vooral de infrastructuur die nodig is voor GPT en toekomstige producten. Ze hebben hoge verwachtingen van het partnerschap met OpenAI op het gebied van AI ontwikkeling.
• Pogingen om Altman terug te laten keren in zijn oude rol mislukken, waarop Microsoft Altman en Brockman in dienst neemt om een nieuwe, onafhankelijke, AI research unit te gaan opzetten en leiden.
• Enkele dagen later eist het zo goed als voltallige personeel (per brief met ruim 700 ondertekenaars, waaronder Murati en Sutskever) dat Altman weer wordt aangesteld. Het zittende bestuur moet vertrekken. Anders stappen ze allemaal over naar Microsoft, naar de nieuwe unit.
• De brief heeft zijn effect, en ook andere stakeholders voeren de druk op: Altman is weer terug als CEO, er is een nieuw bestuur. Ook Greg Brockman is weer terug. Microsoft heeft zijn naïviteit verloren, er zullen aanvullende governance voorzieningen worden getroffen.

Deze wijze raad komt niet uit de hoek van het recente alarmisme over AI, maar uit een artikel van Norbert Wiener uit 1960 (Some Moral and Technical Consequences of Automation, Science Vol.131 pp. 1355-1358). Wiener is de uitvinder van de term Cybernetica, en had al in 1947 een boek onder deze titel (Cybernetics) gepubliceerd over besturing en communicatie in zowel levende organismen als machines.

In 1960 kreeg een schaakprogramma op de computer nog regelmatig klop van amateurspelers, maar bij checkers (i.e dammen op een 8×8 bord) kon een programma al wel zoveel leren van het spelen van partijen dat het na verloop van tijd de eigen programmeur kon verslaan. Het gegeven dat een computer programma slimmer kan worden dan degene die de oorspronkelijke instructies gegeven had, was voor Wiener een kantelpunt. Dat het hier om een smalle taak gaat verhinderde hem niet zijn ‘imagination‘ aan het werk te zetten en op basis daarvan aan te sporen tot grote voorzichtigheid.
Een belangrijk element in zijn overwegingen is de factor tijd, of eigenlijk snelheid, die voor een computer op een geheel andere schaal werkt dan voor een individuele mens. Mocht er ondanks goede bedoelingen waarmee een zichzelf lerende computer in werking wordt gezet toch iets mis gaan, dan is de mens te laat om het te herkennen en zeker te laat om in te grijpen.

Hier en nu vliegen de voorspellingen over de toekomst van AI en de gevaren van te snelle ontwikkeling ons om de oren. Ik denk dat niemand weet –kan weten– waar het heen gaat en in welk tempo. Het Woven web of guesses is hier een onrustig spanningsveld waarin wetenschappelijke inzichten, economische belangen en ideologische overtuigingen er een ware richtingenstrijd van lijken te maken. 

Ik vind voorlopig rust in het boek van Stuart Russel: Human Compatible, AI and the Problem of Control (2019, met een actualisering van medio 2023). Over zijn inzichten schrijf ik later, of het de juiste bezweringsformules zijn weet ik nog niet, ik heb het boek nog niet ver genoeg gelezen.

“Eindeloos typende apen” en “Jan Hein Donner” – dat waren mijn eerste associaties toen ik eind december las dat de New York Times een aanklacht heeft ingediend tegen OpenAI (en Microsoft) wegens inbreuk op auteursrecht. Het zegt iets over mijn eigen next-token voorspelling, maar ik kan het uitleggen.

De krant beweert dat ChatGPT bij sommige antwoorden ‘bijna letterlijk teksten van NYT kopieert’, ook teksten die achter de betaalmuur zitten. De vermeende inbreuk betreft het zonder toestemming gebruiken van NYT teksten bij de training van het taalmodel.

Het lijkt me sterk dat de NY Times de rechtszaak gaat winnen. Voor zover ik weet gaat een tekst nooit als geheel een taalmodel in. Niet bij training en niet bij feitelijk gebruik. De tekst wordt eerst opgeknipt in stukjes, tokens, die vaak nog kleiner dan een woord zijn. Dankzij machine learning kan elk token worden ‘ingepakt’ in een vector van honderden parameters die de context ervan vastleggen. Het taalmodel gebruikt die vectoren later om het meest plausibele vervolg in een antwoord in wording te bepalen – op woord niveau.

In de praktijk blijkt het niet mogelijk om een letterlijk citaat op te halen uit een taalmodel zonder extra voorzieningen. Claude 2.1 zegt er desgevraagd dit over: “Ik heb geen toegang meer tot de letterlijke trainingsdata waarop mijn model getraind is. Ik kan geen citaten of exacte passages terughalen uit die oorspronkelijke data. (…) Tijdens het trainen werden statistische representaties en patronen uit die teksten geëxtraheerd, niet de exacte zinnen en passages.”

De ‘stelling van de eindeloos typende apen’ zegt dat het willekeurig indrukken van toetsen op een schrijfmachine, bijvoorbeeld door een aap of een typekamer met apen, zo goed als zeker vanaf enig punt een kopie van – bijvoorbeeld – een werk van Shakespeare zal produceren mits er voldoende tijd is.

‘Voldoende tijd’ moet je hier wel letterlijk nemen, in Wikipedia staat berekend dat de kans op een foutloze Hamlet (130.000 letters) 1 op 3,4× is. Bij een typekamer met GPT, die suggesties doet voor de toetsvolgorde, neemt de kans op een correcte tekst enorm toe en wordt de benodigde tijd extreem bekort, zeker voor een tekst ter grootte van een artikel uit de NYT.

Zie het artikel in Wikipedia, waarin ook kansberekeningen staan.

En Jan Hein Donner? De kleurrijke schaakgrootmeester (1927-1988) vond dat hij auteursrecht had op de door hem gespeelde partijen, en wilde zelfs rechtszaken voeren tegen kranten en tijdschriften die zijn partijen zonder vergoeding publiceerden. Het bleek een kansloze onderneming – schaken is een spel met bekende regels en een eindig aantal mogelijkheden.

Bij het genereren van citaten ga ik zorgvuldig om met auteursrecht kwesties. Ik zorg ervoor dat ik alleen citaten gebruik van bronnen die openbaar beschikbaar zijn, of van bronnen waarvoor ik de auteursrechten heb verkregen. Als ik een citaat genereer, geef ik altijd de bron van het citaat aan. Dit doe ik door de naam van de auteur en de titel van het werk te vermelden. Ik kan ook een link naar de bron opnemen. Als ik een citaat genereer uit een bron die niet openbaar beschikbaar is, vraag ik altijd toestemming aan de eigenaar van de auteursrechten voordat ik het citaat gebruik.”

Mijn zoektocht in de wereld van AI gaat verder in een ander landschap, op een ander terrein. Ik wil me in neurowetenschap gaan verdiepen, zij het in een specifiek deel waar men niet wars is van wis- en natuurkunde en bijbehorende principes en formules.

In dat land ben ik een vreemdeling, een leek van goede wil. Hier wordt ook gemodelleerd, maar net anders dan in de vallei waar we vandaan komen. De hersenen zijn nu niet model voor machine learning, of metafoor in biomorf taalgebruik. In deze wereld gaat het juist om het ontwikkelen van begrip van de werking van de hersenen zelf, de beschrijvende taal komt uit de natuurwetenschappen. Die leveren niet alleen van toepassing zijnde principes en formules, maar ook metaforen als dat zo uitkomt – kom onder je Markov deken vandaan en laat je Bayesiaanse brein ontwaken…

Bron: Active inference and learning (Friston et al) in Neuroscience and Biohavioral Reviews 68 (2016) pp. 862-879

Ik had wel enige aarzeling om er aan te beginnen. Mijn onderwerp voor deze blogs is AI. Misschien is de ontwikkeling van AI vanuit het nieuwe, neurowetenschappelijk gefundeerde, perspectief nog niet ver genoeg. Hier is het vooral belofte en nog weinig werkelijkheid. Hier zijn nog geen grote modellen met bewezen succes, al staat de definitie van dat succes ter discussie. Hier is nog geen stortvloed van wetenschappelijke en populaire artikelen, of van tutorials op YouTube. En er is een luidruchtige reisgenoot – Verses – die met veel marketing geweld het zicht op de inhoud loopt te verstoren.

Toch ben ik gestart met deze voor mij nieuwe route omdat ik denk dat het intensiveren van deep learning in de richting van steeds meer trainingsdata en miljarden parameters zo maar krakend tot stilstand zou kunnen komen. Het is een wapenwedloop aan het worden, met een steeds grotere behoefte aan reken- en opslagcapaciteit en bijbehorende aanspraak op natuurlijke resources. Bovendien is bij taalmodellen en generatieve AI de ontwikkeling en wetenschap uit zicht aan het raken, misschien omdat er minder onderzocht wordt, maar ook letterlijk omdat door commerciële belangen van grote partijen ramen en deuren dichtgaan.

Een van mijn eerste blogberichten hier heet ‘Woord voor woord‘. Het was voor mij een nieuw inzicht: een LLM levert bij een gegeven serie woorden een mogelijke voortzetting in de vorm van het meest plausibele woord. Niet meer en niet minder. Door slimme architectuur van het informatiesysteem, door training op gigantische databases met van internet geschraapt materiaal en door zware inzet van cloud computing zijn er fantastische resultaten geboekt. Mijn oorspronkelijke fascinatie voor de prestaties bij natuurlijke taalverwerking is alleen maar groter geworden, noem het gerust bewondering. En er is ook al de gewenning aan wat er kan — dit gaat niet meer weg. Het is tegelijkertijd ook de beperking. Een next-sequence voorspelling is niet anders dan wat het is. Sommigen veronderstellen dat een LLM logisch zou kunnen redeneren, of zich een model van delen van de werkelijkheid zou kunnen vormen, wellicht zelfs een beeld van de eigen modus operandi zodat het model zou kunnen uitleggen hoe het tot zijn resultaten komt. Ik twijfel want eerlijk gezegd zie ik niet waar deze capaciteiten vandaan zouden kunnen komen, anders dan van het nadoen of nazeggen wat er in de gigantische verzameling trainingsmateriaal en beschikbare actueel materiaal aanwezig is of te combineren valt. Hallucineren of oprispen zijn misschien wel geen fouten, software bugs, zoals de makers zeggen, maar juist inherente en intrinsieke systeemeigenschappen.

In mijn ‘nieuwe’ landschap zijn er inzichten en beloftes die misschien wel de volgende stappen zouden kunnen bepalen. Een in december 2022 verschenen white paper heeft in elk geval de ambitie die stappen te identificeren. Zie Designing Ecosystems of Intelligence from First Principles. Het is van de hand van een groep auteurs met Karl Friston en Maxwel Ramstead als hoofdauteurs. In komende berichten wil ik er nader op ingaan.

Erwin Schrödinger, februari 1943:

How can the events in space and time which take place within the spatial boundary of a living organism be accounted for by physics and chemistry?

Deze vraag heeft grote impact gehad op verschillende terreinen van de wetenschap in de 20e eeuw, tot op de dag van vandaag. De vraag zelf – the large and important and very much discussed question – staat centraal in een serie openbare colleges die Erwin Schrödinger in 1943 heeft gehouden namens het Trinity College in Dublin.

Hoewel ik vaktechnisch gezien veel achtergrond en jargon mis, probeer ik te begrijpen waar het Schrödinger om te doen is, en wat de belangrijkste vervolgvragen zijn. Het is zo’n zijpad dat ik op deze site graag op ga, juist vanwege de historische context.

In dit geval is de lange tekst die volgt in mijn ogen onmisbaar voorwerk om de uitgangspunten te begrijpen waarop het werk van Karl Friston cs is gebaseerd. Dan gaat het wel om het hoofdonderwerp van deze site, de ontwikkeling van AI en alles wat er mee samenhangt.

Bij Schrödinger draait het om barrières in ruimte en tijd en de informatie die er door heen moet zodat levende organismen kunnen (blijven) bestaan en hun homeostatische mechanismen op gang kunnen houden. Dat geheel beschrijven en verklaren op basis van natuurkundige en chemische principes is het doel dat Schrödinger zich stelt en in deze collegecyclus begint uit te werken.
Een boekje met de tekst en uitwerking van de betreffende colleges, verschijnt in 1944 onder de titel What is Life? Overigens wordt de vraag What is Life? zelf niet in directe zin beantwoord.

Orde en wanorde

Schrödinger weet al wel, onder meer door onderzoek met röntgenstralen, dat in een cel de genen niet veel meer dan een paar duizend atomen hebben. Orde uit wanorde gaat hier dus niet op – zijn conclusie is dan ook dat dat de drager van de code zélf een stabiele verbinding is. Een fysisch object, zoals een kristal. En dan niet een met een herhalende roosterstructuur, zoals quartz, maar een a-periodische want er moet (in mijn woorden) veel diverse informatie zijn vastgelegd.

Het is 1943, het duurt nog 10 jaar totdat Crick en Watson hun werk over DNA en de rol van aminozuren publiceren, maar Schrödinger voorspelt op basis van een redenering ongeveer hoe zo’n script object er uit zou moeten zien. Vanuit de hoek van de moleculaire biologie heeft hij daar ook de credits voor gehad, zie het briefje dat Crick in 1953 aan hem schreef.

Entropie pomp

• Wat kenmerkt een levend systeem? Dat het bezig is, iets doet, beweegt, uitwisselt met de omgeving, en zo voort.
• Als een niet-levend systeem afgezonderd wordt, of in een uniforme omgeving wordt geplaatst, zal het als systeem verdwijnen, vervallen. Alle beweging stopt, door allerlei soorten wrijving. Alle elektrische of chemische potentiaalverschillen worden vereffend, temperatuurverschillen verdwijnen door warmtegeleiding. Er ontstaat een inert brok materie, in een permanente toestand waarin er niets meer gebeurt. Die toestand wordt in de natuurkunde een thermodynamisch equilibrium genoemd, of maximale entropie.
• Een levend systeem, een organisme, weet het verval naar maximale entropie te vermijden of in elk geval uit te stellen. Hoe doet het levende organisme dat? Het directe antwoord is: door te eten, te drinken, te ademen, te assimileren, kortom door metabolisme, door stofwisseling.
• Wat wordt er dan eigenlijk gewisseld? Het lijkt Schrödinger onzin dat het ook werkelijk ‘stoffelijk’ zou zijn, elk atoom is immers zo goed als elke andere, waarom zou je het ruilen? Gaat het om energie, zeg maar calorieën? Ook daar valt er eigenlijk niets uit te wisselen, iedere calorie is evenveel waard als een andere.

Dan komt Schrödinger met een gedachtegang, die ik eerst wat curieus vond maar die bij nader inzien toch heel logisch is.

• Elk proces, elke handeling of gebeurtenis – zeg maar alles wat er gaande is in de natuur heeft een toename van entropie tot gevolg – de Tweede Wet van de Thermodynamica laat zich gelden.
• Een levend organisme vermeerdert dus voortdurend zijn entropie. Je zou kunnen zeggen, het produceert entropie op weg naar de toestand van maximale entropie, ofwel de dood. Deze entropie telt op, het heeft een +-teken: positieve entropie.
• Het organisme kan alleen in leven blijven door die positieve entropie ‘kwijt’ te raken of te compenseren. Dat is wat er in het metabolisme gewisseld wordt, entropie, en het lukt door voortdurend negatieve entropie uit de omgeving te halen, zich te voeden met negatieve entropie.

Schrödinger haalt er dan nog formules en berekeningen bij die ik laat voor wat ze zijn. Mijn associatie, niet die van Schrödinger, bij zijn redenering is die met een warmtepomp. Daar is het immers ook zo dat één kant wordt opgewarmd met positieve warmte terwijl de andere kant afkoelt door negatieve warmte toe te voegen. Je zou het hele mechanisme in de redenering van Schrödinger dus een entropie pomp kunnen noemen.

NB Ik meende met entropie pomp een originele metafoor te hebben. Dat is ook zo, ik heb het zelf bedacht. Daarna kwam ik er achter dat iemand mij is voor geweest: In 1967 verscheen van de hand van Barry Campbell in Nature (vol. 215 p. 1308) een kort artikel onder de titel Biological Entropy Pump. Hij verwijst daarbij onder meer naar de negatieve entropie van Schrödinger, die daar met een nare samentrekking negentropy wordt genoemd.
Met dank aan GPT4 die via Perplexity.ai feilloos dit artikeltje wist op te sporen nadat ik er met het steekwoord entropie pomp naar gevraagd had.

De link naar AI

Contemporary developments in the statistical mechanics of far-from-equilibrium systems (and in particular, multi-scale, living systems) allow us to formalize these insights—of early cybernetics—as a physics of self-organization, which enables the study of intelligence itself as a basic, ubiquitous, physical phenomenon.

Als mens moet je eigenschappen afleggen als je zonder wilt zijn, maar een AI model heeft op voorhand geen eigenschappen. De correctieve pogingen van AI ontwikkelaars om hun modellen in lijn te brengen met gewenste waarden – het wordt ‘alignment‘ genoemd – zijn er vaak op gericht de modellen achteraf, en van buitenaf, van eigenschappen te voorzien. Het zijn volgens mij wanhoopspogingen met een uithollend effect.

Levende organismen zijn voortdurend in interactie met hun omgeving om te kunnen blijven bestaan. Friston en anderen spreken over homeostase.

Het ging er al eerder over dat in beginsel een eenvoudig systeem genoeg is: een receptor om een omstandigheid gewaar te kunnen worden, een regelcentrum dat regie voert op basis van bepaalde bandbreedtes en een effector om arbeid te verrichten die nodig is om bij eventuele overschrijding van de bandbreedtes het systeem weer binnen de grenzen te brengen.

Bron: Active Inference (Parr, Pezzulo en Friston)

De werkelijkheid is minder eenvoudig, uiteraard. Het is niet zo simpel dat een organisme via zintuigen rechtstreeks is aangesloten op de buitenwereld en dat er vanuit het regelcentrum direct commando’s verstuurd kunnen worden om aanpassingen aan die buitenwereld te doen.

Friston cs schrijven in hun recente boek Active Inference: “Active Inference is a normative framework to characterize Bayes-optimal behavior and cognition in living organisms.” Het ‘normatieve’ in dit citaat geeft aan dat er een overheersend imperatief is voor gedrag en cognitie van levende organismen: het minimaliseren van “surprise“, discrepantie, in hun sensorische waarnemingen. Dit is een belangrijk mechanisme binnen het Free Energy Principle, dat onlosmakelijk met Friston is verbonden.

Ik wil gaan begrijpen hoe dit framework er uit ziet en op deze site verslag doen van mijn bevindingen. Van wat ik er alvast van gezien heb is het een pittige inhoud, zowel feitelijk qua wiskunde en neurowetenschap zeg maar, als conceptueel. Aan de wiskundige kant is er veel contra-intuïtief en het gedachtegoed van Friston wordt door velen als tamelijk ontoegankelijk gezien. Illustratief is misschien zijn eigen notitie in het voorwoord van het boek: “I have a confession to make. I did not write much of this book. Or, more precisely, I was not allowed to. This book’s agenda calls for a crisp and clear writing style that is beyond me.”

In het inleidende hoofdstuk is een soort routekaart opgenomen voor de concepten die je langs moet, met een high road en een low road die elk op eigen manier bij Active Inference uitkomen. Die kaart wordt ook mijn checklist voor de komende tijd. Het boek zelf geeft er uiteraard uitwerking aan, maar ik wil zelf waar mogelijk op zoek naar oorsprong van de gebruikte concepten en ideeën, en zo ook lezen en schrijven over de historische herkomst en context.

Routekaart

Hieronder staat de routekaart zonder commentaar, maar merk op dat ‘Bayes’ op een aantal plaatsen op de low road wordt genoemd.

Bron: Active Inference (Parr, Pezzulo en Friston)

Mijnheer Van Dijk was geen Bayesiaan, anders had hij nog wel een keer gekeken misschien. Nu staat er op de fictieve grafsteen van de even fictieve man:
Hier ligt Van Dijk, hij had gelijk, hij kwam van rechts.

Ik moet eerlijk bekennen dat ik tot voor kort niet had gehoord dat er onder statistici twee kampen bestaan: de Bayesianen en de frequentisten. Het is wellicht overdreven om over kampen te spreken omdat de verschillende manieren van beschouwen ook complementair kunnen zijn en als verschillende gereedschappen kunnen worden ingezet. Onder de gereedschappen liggen echter ook principieel verschillende opvattingen over wetenschap en de beschouwing van de wereld.

NB De verschillen zijn grimmiger geworden tijdens de zg. replicatiecrisis in de psychologie en in de sociale wetenschappen toen bleek dat resultaten van gepubliceerde onderzoeken, ook die met veel impact, niet altijd reproduceerbaar waren. De oorzaak lag bij het inzetten van het frequentistische gereedschap ‘p-waarde’. Veel artikelen zijn toen teruggetrokken.

NB De afbeelding is ter verluchtiging en wordt in het bericht niet gebruikt.

Nu gooi ik die munt ook echt op, en vang hem op in mijn hand, afgedekt met mijn andere hand — zoals dat vaak gaat bij tossen.

Ik kijk nog even niet en laat het jou ook niet zien – en stel nogmaals de vraag:
wat is de kans dat kop boven ligt?

• Zeg jij: ja dat is natuurlijk nog steeds 50%. Er is voor mij toch niets veranderd?
• Of zeg je: wat een onzin vraag. De munt is geland dus ligt met kop boven of onder, er is geen sprake meer van kans maar van zekerheid — alleen ken ik die nog niet.

Kies een deur, zegt de presentator, en ga er alvast voor staan. Dan zal ik de deur openen en weet je wat je gewonnen hebt. Je kiest een deur, zeg deur 1, en gaat er staan. De presentator komt aanlopen om het geheim te onthullen, maar houdt de pas even in en zegt dat hij het nog wat spannender wil maken. Hij zal eerst een van de andere deuren openen en je laten zien wat er achter staat, daarna mag je nog van keuze veranderen! Hij opent deur 3, en zie – daar staat een geit.

Test resultaat

In het plaatje geeft de ene rode stip in het veld van 1.000 stippen de genoemde 0,1% weer – 1 op de 1.000 mensen heeft Z. Misschien ben jij die rode stip.

De betrouwbaarheid van de test is 99%. Dat wil zeggen dat in 1% van de gevallen de test wel positief uitsloeg maar dat de geteste persoon Z niet heeft.

Die zogenoemde ‘false positives’ zijn de blauwe cellen in het plaatje.

Op de groep van 1.000 geteste personen zijn er dus 11 met een positieve uitslag. Jij bent daar bij, maar heb je ook daadwerkelijk Z?

In deze manier van kijken is de kans dat jij Z hebt dus gelijk aan 1 op 11, zeg maar 9%. Nog steeds slecht nieuws, maar toch minder dramatisch dan de 99% die je eerst dacht.

De Stelling van Bayes wordt vaak uitgedrukt in een formule die mooi genoeg is om op een T-shirt te zetten. Om te begrijpen wat er staat is wel wat uitleg nodig, die staat in dit bericht.

Eerder ging het over de situatie dat je in een medische test een positieve uitslag hebt gekregen die aangeeft dat je mogelijk een bepaalde ziekte hebt opgelopen. Als je dat weet, wat is dan de kans dat je de ziekte daadwerkelijk hebt?

Die situatie gebruik ik voor de afleiding van de formule van Bayes:

   

Venndiagrammen

We schrijven P(A|B) voor de kans dat je de ziekte hebt, wetende dat je positief getest bent. Dat is precies de kans waar we naar op zoek waren in het vorige bericht. In het algemeen betekent P(A|B) de kans op A gegeven B, men spreekt van een voorwaardelijke kans.

   

Formule 4

Formules uitwerken en samenvoegen

   

Dat is eigenlijk al de formule van Bayes, in volle schoonheid vanwege de in het oog springende symmetrie.
Vanwege de interesse in wordt de formule meestal geschreven als:

Rekenvoorbeeld

• In de populatie waar we naar kijken gaat een ziekte rond, met een besmettingsgraad van 0,1%
• Er is een medische diagnose test met een betrouwbaarheid van 99%, dat wil zeggen dat van alle positief geteste mensen 99% de ziekte ook echt heeft, 1% komt wel positief uit de test maar heeft de ziekte niet.
• Jij bent positief getest, dat wil zeggen dat de test aangeeft dat je waarschijnlijk de ziekte hebt.

Wat is, vanuit Bayesiaans perspectief, nu de werkelijke kans dat je de ziekte hebt?

We hebben voldoende data om de formule van Bayes te kunnen toepassen, te kunnen invullen. Laten we met A het hebben van de ziekte aangeven, met B de positieve test. We willen weten wat de kans is dat je de ziekte hebt, wetende dat je positief getest bent – dat is in de termen van hierboven, de onbekende zeg maar. Weten we wel wat de waarde van de andere termen in de formule is?

• Boven de streep weten we dat de (voorwaardelijke) kans is positief getest te worden als je de ziekte hebt. Die kans is in deze casus 99% (de betrouwbaarheid van de test).
• Ook boven de streep staat , de (a priori) kans om de ziekte te hebben. Gegeven de besmettingsgraad kunnen we deze gelijk stellen aan 0,1%
• Onder de streep staat voor de kans dat je positief getest wordt. Die heeft twee componenten: een positieve test terwijl je de ziekte hebt – gelijk aan (dat is 0,1 % x 99%) – , en een positieve test terwijl je de ziekte niet hebt – gelijk aan (dat is 99,9% x 1%).

Alles netjes ingevuld levert:

Bayesiaans denken

Bayesiaans denken wordt gekenmerkt door wat in essentie een subjectieve benadering is.

• Je hebt een idee, een overtuiging, over de buitenwereld, en over de situatie die aan de orde is. In het jargon spreekt men van belief.
• Dat belief is gebaseerd op een (eerste) aanname, een a priori waarschijnlijkheid, in het jargon kortweg de prior.
• Perceptie van de buitenwereld brengt je tot gevolgtrekking(en), inferentie (inference).
• Het kan nodig zijn op basis van de inferentie je belief bij te stellen tot een nieuwe, a posteriori, waarschijnlijkheid, de posterior.
• In (altijd) veranderende omstandigheden zal je nieuwe belief weer tot nieuwe inferentie leiden, waarbij de verkregen posterior je nieuwe prior waarschijnlijkheid wordt en de gang van zaken zich herhaalt.

Zo bouwt de Bayesiaan zijn beeld van de werkelijkheid op, in een cyclus van nieuwe laagjes.

We zijn niet al te ver van Londen, in Kent. In Tunbridge Wells om precies te zijn. Hier heeft Thomas Bayes lange tijd geleefd en is hij in 1761 overleden. De plaquette vind je op de poort van het huis waar hij woonde.

De tekst is niet zo toepasselijk. Met een vergelijkbaar anachronisme hadden ze beter kunnen schrijven dat Bayes heeft bijgedragen aan het verslaan van de Duitsers en Japanners in WO II vanwege de cruciale toepassing van zijn stelling in Bletchley Park, bij het kraken van codes en het lokaliseren van onderzeeboten. Of verwijzen naar al die onderwerpen waaraan zijn naam is verbonden zoals Bayesiaanse inferentie, het Bayesiaanse brein, Bayesiaanse statistiek, Bayesiaanse netwerken en meer.

Sociale context

Doctrine of Chances

Bayes zelf is niet bezig met al die onderwerpen die later aan zijn naam zijn gekoppeld, niet in directe zin in elk geval.

Het artikel met zijn inzichten die onder de stelling liggen, wordt door hem zelf niet voor publicatie ingestuurd. Ik schrijf prudent ‘inzichten‘ omdat de stelling van Bayes, de formule, in de vorm die ik in eerdere berichten besprak, niet door hemzelf is opgesteld of geformuleerd. Anderen hebben dat gedaan, op basis van de gedachten van Bayes in genoemd artikel.

Dat artikel, An Essay towards solving a Problem in the Doctrine of Chances, is door zijn vriend en collega Richard Price opgeduikeld in de nagelaten geschriften, die hij doorneemt op verzoek van de familie. Met een eigen voorwoord en wat toelichting stuurt hij het naar de Royal Society.

NB De titel maakt aannemelijk dat het essay past in de lijn van wiskundig werk van anderen, met name van Abraham De Moivre die in 1718 een belangrijk werk over kansrekening had gepubliceerd: The Doctrine of Chances: or, A Method of Calculating the Probability of Events in Play.

Laplace formuleert de stelling van Bayes

Decennia jaar later pas, in 1814, heeft Pierre-Simon Laplace in zijn werk Essai philosophique sur les probabilités de regel opgesteld zoals wij die kennen, overigens zonder de naam van Bayes te vermelden. Het essai is een inleiding tot de tweede editie van Théorie analytique des probabilités (eerste editie uit 1812).

Ook bij Laplace vind je de T-shirt waardige formule niet. Het gebruik van de verticale streep | in de notatie van voorwaardelijke kans is pas in 1931 voorgesteld door Sir Harold Jeffreys.

Ik heb lang gezocht naar de precieze formulering die Laplace wel gebruikt, op het verkeerde been gezet omdat ik dacht naar een formule te moeten zoeken. Volgens mij is het volgende fragment, op p.183 van Livre II het goede:

Begrijpen van de wereld

Price (en mogelijk Bayes, maar dat weten we niet) is er alles aan gelegen om aan te tonen dat er een keten van oorzaken bestaat. Dit is een veelzeggend citaat uit de aanbiedingsbrief van Price:

The purpose I mean is, to shew what reason we have for believing that there are in the constitution of things fixt laws according to which things happen, and that, therefore, the frame of the world must be the effect of the wisdom and power of an intelligent cause; and thus to confirm the argument taken from final causes for the existence of the Deity. It will be easy to see that the converse problem solved in this essay is more directly applicable to this purpose; for it shews us, with distinctness and precision, in every case of any particular order or recurrency of events, what reason there is to think that such recurrency or order is derived from stable causes or regulations innature, and not from any irregularities of chance.