Rana maliformis
“OK, je hebt dus een ding zien springen waarvan je zo goed als zeker wist dat het een appel was. Dat moet een grote schok voor je zijn geweest. Maar laten we er niet dramatisch over doen, je moet het wel een plaatsje zien te geven…”
Zo ongeveer stel ik me -gekscherend- het begin voor van het therapeutische gesprek met de persoon die we het lieten meemaken in Surprise surprise.
Bron: Active Inference (Friston et al)
In de Active inference theorie is een levend organisme voortdurend bezig onverwachte gebeurtenissen ‘een plaats te geven’, om zo de discrepantie tussen verwachting en waarneming van de wereld zo klein mogelijk te maken.
(1) Als je je laat leiden door je waarneming zou je je beeld van de wereld kunnen bijstellen. Er zijn echt wel appels die kunnen springen, je hebt het zelf gezien, misschien een zeldzame soort? Of een nieuwe ontdekking: Rana maliformis (mijn eigen verzonnen Latijnse naam voor ‘appelvormige kikker’ – het plaatje heb ik door de AI omgeving Venice laten maken).
(2) Je zou ook actie kunnen ondernemen, door bijvoorbeeld je focus te verleggen en naar appelbomen te kijken om te bevestigen hoe appels er uit zien. Zo kun je waarneming en beeld van de wereld laten passen.
Een meer alledaags voorbeeld is de situatie waarin het zweet je onverwachts uitbreekt. Je wereldbeeld bijstellen helpt dan niet veel als het echt warm is, de actie om een raam open te zetten of een jas uit te doen waarschijnlijk wel.
De concrete voorbeelden raken weliswaar de kern van Active inference, maar verhullen de complexiteit er van. Laten we nog eens kijken naar elementen op de low route naar Active inference die in het appel-kikker-voorbeeld een rol spelen. Een kernelement is het generatief model dat je in staat stelt te voorspellen wat je aan observaties kunt verwachten. Dat model hoeft niet altijd precies overeen te komen met het generatieve proces dat in werkelijkheid de observaties voortbrengt. Sterker nog, in voorkomende gevallen kunnen andere, eenvoudigere, modellen net zo bevredigend de waargenomen gegevens verklaren als het voortbrengende proces.
Bron: Active Inference (Friston et al)
Het schema is een weergave van het active inference raamwerk. Het geeft aan dat, in het model, 
voor de waarnemende agent een afgeleide verklaring voor waarneming 
is. In de werkelijkheid is er een aanleiding voor , maar die is voor de agent niet direct waarneembaar. Het is de verborgen toestand 
. De observatie is de brug tussen model en het proces, de verbinding tussen interne representatie en externe realiteit.
Het raamwerk staat flexibiliteit toe, je hoeft niet vast te houden aan een enkel generatief model. Je model zou kunnen zijn dat vrijwel alle groene dingen in de wereld kikkers zijn – in dat geval zal een springend groen ding nauwelijks een verrassing voor je zijn. Of je houdt de mogelijkheid van een zeldzame of nieuwe soort in gedachten – dan zul je weliswaar verrast zijn er een te treffen, maar zal het een ingecalculeerde ontmoeting zijn die past bij een zekere waarschijnlijkheidsverdeling.
In algemene zin, los van concrete voorbeelden, zijn zowel de prior (je initiële belief) als de posterior (je bijgewerkte beeld) te representeren als waarschijnlijkheidsverdelingen. De verrassing die een gebeurtenis veroorzaakt is dan een maat voor de overeenkomst van de waarschijnlijkheidsverdeling van je model en de waargenomen werkelijkheid en is kleiner naarmate model en werkelijkheid beter overeenkomen.
Conceptueel gezien zijn we nu op de helft. Het interne model van de agent probeert continu de zintuiglijke input te voorspellen gebaseerd op wat het verwacht waar te nemen. Als een levend organisme verrassingen door waarneming wil minimaliseren dan geeft de mate van verrassing aan of het de waarschijnlijkheidsverdeling die hoort bij zijn initiële belief moet heroverwegen of niet. Die heroverweging kan leiden tot aanpassing van het belief zelf.
Het verhaal eindigt hier niet, het is de opmaat naar theorievorming rond Active inference – de tweede helft. Free energy speelt hierin een grote rol, een begrip in het hart van het werk van Karl Friston. Het door hem in 2006 geformuleerde Free Energy Principle (FEP) komt oorspronkelijk uit de neurowetenschap in de context van hersenactiviteit- en functie. Het werd ooit Nobelprijs waardig genoemd vanwege zijn fundamentele aard en potentiële impact.
In het boek Active Inference stellen de auteurs dat organismen en intelligente systemen niet alleen proberen hun voorspellingen te verbeteren (zoals in het FEP), maar ook actief hun omgeving manipuleren om hun voorspellingen te bevestigen. Dat is het actie-deel dat hierboven werd besproken. De Active inference theorie bouwt hier op voort en past de principes toe op besluitvorming, planning en gedrag. Daarmee levert het de bouwstenen voor het ontwerp van intelligente systemen, het onderwerp van Designing Ecosystems of Intelligence from First Principles dat het vertrekpunt voor mijn hele omzwerving was.
Ik zal in volgende berichten proberen die bouwstenen netjes te ordenen en te verklaren.