Re-enter Sam
“Jij mag niet meer meespelen” zoals bij een schoolpleintjesruzie, of klungelend bestuur zoals bij de PvdD, of techmiljardairs die elkaar de tent uitvechten om nog meer miljarden te schrapen zoals de Franse filosoof Eric Sedin het misschien zal zien? Of mijn flauwe grapje dat OpenAI een AGI systeem heeft weten te maken dat vervolgens meteen Sam Altman ontslagen heeft?
Het grapje is dichter bij de werkelijkheid dan ik kon vermoeden. In overdrachtelijke zin dan. Lees verderop waarom ik denk dat deze soap direct verband houdt met onverwachte vorderingen op het gebied van Artificial General Intelligence.
Ik wil van dit blog geen juicekanaal maken, maar laten we even kijken wat er is gebeurd.
- De CEO van OpenAI, Sam Altman, wordt op vrijdag 17 november onverwacht en onverhoeds ontslagen door het bestuur van de not-for-profit organisatie die 51% zeggenschap heeft over het bedrijf OpenAI global, de uitbater van o.a. ChatGPT.
- Dit gebeurt in een videomeeting van een deel van dat bestuur. Chief scientist Ilya Sutskever voert het woord. De voorzitter van het bestuur, Greg Brockman, is niet uitgenodigd voor de sessie en krijgt direct na afloop te horen dat hij voorzitter af is maar nog wel mag blijven als hoofd wetenschapper. Brockman neemt dezelfde dag nog ontslag.
- Er wordt uit eigen kring een nieuwe CEO aangesteld, Mira Murati, die enkele uren later al weer wordt vervangen door een externe benoeming.
- Ilya Sutskever post een bericht op X waarin hij spijt betuigt over wat hij gedaan heeft.
- Microsoft, met 49% zeggenschap over het bedrijf, is niet geïnformeerd. En ook niet amused. Sam Altman is het boegbeeld van OpenAI, Microsoft heeft vele miljarden geïnvesteerd in vooral de infrastructuur die nodig is voor GPT en toekomstige producten. Ze hebben hoge verwachtingen van het partnerschap met OpenAI op het gebied van AI ontwikkeling.
- Pogingen om Altman terug te laten keren in zijn oude rol mislukken, waarop Microsoft Altman en Brockman in dienst neemt om een nieuwe, onafhankelijke, AI research unit te gaan opzetten en leiden.
- Enkele dagen later eist het zo goed als voltallige personeel (per brief met ruim 700 ondertekenaars, waaronder Murati en Sutskever) dat Altman weer wordt aangesteld. Het zittende bestuur moet vertrekken. Anders stappen ze allemaal over naar Microsoft, naar de nieuwe unit.
- De brief heeft zijn effect, en ook andere stakeholders voeren de druk op: Altman is weer terug als CEO, er is een nieuw bestuur. Ook Greg Brockman is weer terug. Microsoft heeft zijn naïviteit verloren, er zullen aanvullende governance voorzieningen worden getroffen.
Eind goed, al goed? Ik vraag het me af. Nog steeds is niet duidelijk waarom het bestuur Altman ontslagen heeft. In de geruchtenstroom begint één mogelijke verklaring de overhand te krijgen. Binnen OpenAI loopt al enige tijd het project Q* (Q Star), gericht op het dichterbij brengen van AGI (zoals alle projecten van OpenAI). Recent zou er een doorbraak zijn geweest, die ook voor de eigen ontwikkelaars tamelijk onverwacht snel is gekomen. Ze hebben daarover het bestuur geïnformeerd.
Net als misschien wel in de gehele samenleving bestaan er binnen OpenAI twee stromingen. De doemdenkers, safetyisten, die vrezen dat al te snelle en ongecontroleerde ontwikkeling van AGI zal leiden tot grote schade aan de mensheid, misschien wel tot verdwijnen er van. De positivo’s, accelerationisten, die niet kunnen wachten tot de zegeningen van AGI de mensheid gaan redden van allerlei bedreigingen op het gebied van gezondheid en ziekte, milieu en weer- en klimaat. Altman neigt naar de laatste groep maar is genuanceerd, Sutskever hoort bij de eerste.
Kennelijk waren de ontwikkelingen binnen Q* zo onverwacht en krachtig dat de paniek is toegeslagen bij de safetyisten. Voor dit blog boeit mij niet zo hoe het nu in personele zin verder gaat bij OpenAI, maar wel wat die ontwikkelingen in Q* nu eigenlijk zijn. Dat is voor een volgend bericht.