Karpathy joint Anthropic om zelfverbeterende AI te ontwikkelen

Andrej Karpathy gaat bij Anthropic werken. Hij komt in het pre-training team dat onderzoekt hoe je AI inzet om AI zelf beter te maken. Op X meldt hij gisteren: "the next few years at the frontier of LLMs will be especially formative."

Voor wie de man nog niet kent: Karpathy was in 2015 co-founder van OpenAI. Daarna een tijd Director of AI bij Tesla. Vervolgens keerde hij even terug naar OpenAI, maar de laatste jaren was hij vooral bekend als onderzoeker die zijn werk en ideeën op X deelde waar elke programmeur lijp van werd. En nu kiest hij ervoor om weer bij een lab te werken. Anthropic.

Wat hij gaat doen

Karpathy gaat werken aan zelfverbeterende AI. Alberto Romero vatte de inzet op The Algorithmic Bridge zo samen: "engineer your agents to make the fastest research progress indefinitely." Claude die Claude beter maakt. Geen mens in de loop. Romero rekent voor dat zelfs een bescheiden 5 tot 10% versnelling per cyclus exponentiële gevolgen heeft: als die loop sluit, verschuift het tempo van AI-onderzoek fundamenteel.

Dat is exact het scenario waar Anthropic en de andere labs intern mee bezig zijn. Karpathy had hier al ervaring mee in zijn eigen AI-researcher project, en gaat het nu bouwen voor de labs zelf.

Wat het signaleert

Karpathy staat erom bekend door de hype heen te prikken. Hij is precies de stem die ontnuchtert wanneer iemand roept dat AGI om de hoek ligt. Hij praat over wat modellen concreet kunnen, niet over wat ze ooit zullen kunnen. Dat is waarom heel tech Twitter hem vertrouwt.

Maar sinds eind vorig jaar, toen de nieuwe generatie modellen uitkwam, is er iets in zijn toon veranderd. Daarvoor was hij redelijk sceptisch: echt goed programmeren konden de modellen nog niet. Sinds december merk je aan alles dat het sneller gaat dan hij dacht. AI als zelfstandige onderzoeker is geen fantasie meer, het is een ontwerp-probleem. En aan dat ontwerp-probleem wil hij nu zelf werken.

Als deze man een lab joint om mee te bouwen aan zelfverbeterende systemen, zegt dat veel over de staat van AI anno 2026.

what did Karpathy see?