Doorbraak of marketingstunt?
Het zal niet verbazen dat de actie van VERSES van vlak voor de kerst, met hun open brief in de NY Times, door de meeste deelnemers aan het OpenAI community forum vooral gezien wordt als een publiciteitsstunt. Heeft VERSES een doorbraak op een pad naar AGI bereikt? Eerst zien dan geloven… is de teneur.
Officiële reacties zijn er nog niet geweest.
Een enkeling merkt op dat er een jaar geleden door een groep auteurs van diverse universiteiten in Europa, VS en Canada een serieus onderzoeksartikel is gepubliceerd, Designing Ecosystems of Intelligence from First Principles.
De auteursgroep wordt aangevoerd door Karl Friston en Maxwell Ramstead, die hun erkenning al lang op zak hebben als neurowetenschappers. Zij werken nu voor VERSES.
Inmiddels is er ook op de site van VERSES een aantal toelichtende artikelen geplaatst – met uitleg en achtergrond van hun claim en een tijdpad waarop ze de bewijzen gaan leveren. Het meest concreet is hun product Genius, dat uit een aantal samenwerkende intelligente agents moet gaan bestaan.
Dit is de tijdlijn die ze beloven:
Ik denk dat ze op dit moment nog niet veel hebben om te laten zien, anders zouden ze ons wel overspoelen met demo’s. Wel vind ik hun ontwikkelfilosofie en -strategie goed uitgeschreven en onderbouwd. Hun verhaal is zó afwijkend van wat de ontwikkelaars van de grote taalmodellen vertellen dat dat alleen al interessant is om verder te onderzoeken. Hun benadering lijkt bovendien een aantal van de grote maatschappelijke risico’s van de LLM te ondervangen.
In volgende berichten kom ik er uitgebreid op terug, er is inmiddels materiaal genoeg en ik heb ook al gezien dat er een zekere continuïteit is vanuit research van eind jaren 80 (Christopher Watkins) op het gebied van machine learning, meer specifiek Q-learning.
NB Waren we de Q al niet tegengekomen als Q-star (Q*), de vermeende doorbraak van OpenAI zelf en de eveneens vermeende steen des aanstoots, aanleiding voor het kortstondige ontslag van Sam Altman bij OpenAI?