The Imitation Game

Ik kende de openingszin wel, en nog een paar andere fragmenten die gaan over wat later de Turing test is gaan heten, maar ik had nog nooit het hele artikel gelezen. Nu wel – ik vond het onverwacht prettig leesbaar. Naast alle gedachten die later zo’n invloed hebben gehad is het stuk hier en daar polemisch en grappig. En ook vandaag nog relevant.

Imitation game

De eerste alinea is meteen ter zake. Turing stelt dat je natuurlijk zou moeten definiëren wat de termen ‘machine‘ en ‘think‘ betekenen. Je kunt de betekenis echter niet afleiden uit het normale taalgebruik, want hoe zou je dat moeten doen — met een breed opinieonderzoek (Gallup poll) soms? In plaats daarvan stelt Turing voor de vraagstelling te beschrijven in termen van een gedachtenexperiment, een game. Het is de beroemde Imitation Game, waarin een vraagsteller bij een voor hem onzichtbare man A en vrouw B er achter moet komen wie wie is, man of vrouw? Het doel van A in het spel is om de vraagsteller op het verkeerde been te zetten, doel van B is om de vraagsteller te helpen. A en B hoeven niet naar waarheid te antwoorden. Soms zal de vraagsteller het goed hebben, andere keren niet. Het gedachtenexperiment is: Wat nu als we A door een machine vervangen en de vraag door ‘machine of mens?’. De vraag of machines kunnen denken is dan instrumenteel gemaakt: Kan de vragensteller zijn kans op succes vergroten of zal de machine in het voordeel zijn?
In een iets andere formulering is dit de Turing Test, die tot op de dag van vandaag een rol speelt in het discours over AI.

Digitale computer

Turing is geneigd is alle vrijheid toe te staan voor welke computers mee mogen doen, maar hij is op een of andere manier beducht voor een (toekomstige) ‘human computer’. Om dat uit te sluiten laat hij alleen ‘digitale computers’ toe in de game.
Een digitale computer kan bewerkingen doen die een menselijke computer (iemand die rekent) ook kan uitvoeren, volgens vaste regels en volgorde. Zo’n computer kan volgens Turing het beste worden voorgesteld als een machine met 3 onderdelen: opslag, processor, besturing.

Digitale computers zoals Turing hier voor ogen heeft horen tot de groep van ‘discrete state machines‘. Ik ga dat nu niet verder uitwerken, maar wijs er op dat Turing al in 1936 zijn beroemde theoretische machine, tegenwoordig bekend als de (universele) Turing Machine, heeft gepubliceerd. Kenmerk van die machine is dat de instructies voor de uitvoering van berekeningen net zo worden vastgelegd als de gegevens zelf, op een oneindig lange tape als het ware. Het is een vorm van ‘stored-program‘ voor een digitale computer. Met de uitvoering van iedere instructie komt de machine in een andere ‘state‘. Alles conceptueel en alleen in theorie!
Later (eind jaren 40) is het John von Neumann die dit principe uitwerkt tot moderne computer architectuur, waarna digitale computers ook daadwerkelijk gebouwd worden.

Turing komt zo to de definitieve formulering van de Imitation Game (in mijn parafrase):

Zou het waar kunnen zijn dat een discrete-state-computer, voorzien van voldoende geheugen en een toegesneden programma, op een bevredigende manier de rol van A in de game kan spelen, terwijl de rol van B door een mens wordt vervuld?

Polemiek of Don Quijote?

Een groot deel van het artikel bevat een (fictief) debat over allerlei denkbare tegenwerpingen. Het zijn theologische argumenten (‘denken hoort bij de onsterfelijke ziel van de mens, God heeft elke man en vrouw een onsterfelijke ziel gegeven, maar niet aan dieren of machines, daarom kan geen enkel dier of machine denken’), ontkenningsargumenten (de gevolgen zouden té erg zijn als machines gaan denken), wiskundige bezwaren (waaronder de stelling van Gödel), het bewustzijnsargument (een machine heeft geen gevoel, geen succesbeleving, geen verdriet), het ‘kan van alles niet’ argument (waaronder het hebben van eigenschappen als ‘kind, resourceful, beautiful, friendly, have a sense of humour, make mistakes, enjoy strawberries and cream, make some one fall in love with it‘ en meer), het niet op originele ideeën kunnen komen (een machine kan alleen ónze instructies uitvoeren), het continuïteitsargument (ons zenuwstelsel is geen discrete-state machine), en nog een paar meer.

Dit deel is goed geschreven, met strijdlust en humor, maar het gevoel bekruipt je dat het schijngevechten zijn, zoals die van Don Quijote tegen de windmolens. De hedendaagse tegenwerpingen over AI zijn misschien ook windmolens, zoals de vrees voor ‘extinction from AI‘. Ook het bewustzijnsargument is nog op veel plaatsen te horen.
Turing zag de bezwaren van de lezer wel aankomen:

The reader will have anticipated that I have no very convincing arguments of a positive nature to support my views. If I had I should not have taken such pains to point out the fallacies in contrary views.

Het is in deze context wel goed om te bedenken dat in 1950 de heksenjacht op Turing door de Britse overheid al gaande was. Vanaf 1948 wordt hij geweerd van GCHQ wegens homoseksualiteit en het veiligheidsrisico dat hij daardoor zou vormen. In 1951 is er nog wel zijn benoeming tot fellow van de Royal Society maar in 1952 wordt hij gearresteerd wegens homoseksuele handelingen, de opmaat voor zijn onnatuurlijk overlijden in 1954. Waren de vijanden van Turing inderdaad maar windmolens geweest…

AI Lente

Het artikel eindigt met een blik vooruit, naar hoe en waar men zou kunnen beginnen en hoe het verder zou kunnen gaan, een soort onderzoeksprogramma. Ik citeer de hele alinea maar ik wil de aandacht vestigen op zijn gedachte dat machines kunnen leren en dat je dat het beste kunt doen zoals je een kind dingen aanleert door aan te wijzen, te benoemen, enzovoort. Zo is dat gegaan, bijvoorbeeld bij de Mark I Perceptron. Daarna kwam de (eerste) AI winter.

Turings’ artikel verkondigt nog het lentegeluid:

We may hope that machines will eventually compete with men in all purely intellectual fields. But which are the best ones to start with? Even this is a difficult decision. Many people think that a very abstract activity, like the playing of chess, would be best. It can also be maintained that it is best to provide the machine with the best sense organs that money can buy, and then teach it to understand and speak English. This process could follow the normal teaching of a child. Things would be pointed out and named, etc. Again I do not know what the right answer is, but I think both approaches should be tried.
We can only see a short distance ahead, but we can see plenty there that needs to be done.