AI traint op AI: destillatie is grote kopzorg voor AI-labs

In dit artikel:

Anthropic zegt dat Alibaba op ongekende schaal heeft geprobeerd kennis uit Claude te trekken via zogeheten destillatie: het trainen van een model op de outputs van een ander model. Volgens het bedrijf ging het om 28,8 miljoen gesprekken via 25.000 verdachte accounts, bedoeld om Claude-gedrag te kopiëren en te gebruiken voor eigen AI-systemen. De kwestie speelt tegen de achtergrond van een bredere strijd tussen Amerikaanse en Chinese AI-bedrijven, waarbij labs als OpenAI, Anthropic en Google proberen hun dure modellen te beschermen tegen nabootsing.

Destillatie is al jaren bekend als een efficiënte techniek. Een kleiner model kan daardoor veel leren van een groter model zonder alle rekencapaciteit zelf nodig te hebben, zoals eerder bleek bij DistilBERT en later bij systemen als DeepSeek-R1. Juist daardoor is de methode aantrekkelijk voor zowel grote commerciële spelers als open-sourceontwikkelaars: ze kunnen krachtige AI bouwen die sneller, goedkoper en op lichtere hardware draait.

Volgens de auteur is Anthropics alarm deels begrijpelijk, maar geen doorslaggevend nieuw gevaar. Moderne modellen hebben weliswaar verdedigingsmechanismen en vermommen hun redenering, maar destillatie blijft in de praktijk lastig volledig tegen te houden. Op korte termijn schaadt het vooral de inkomsten en voorsprong van AI-labs; op langere termijn kan het de terugverdienmodellen van miljardeninvesteringen onder druk zetten en zo bijdragen aan een mogelijke AI-bubbel. Tegelijk maakt diezelfde techniek AI breder toegankelijk en versnelt ze de verspreiding van krachtige modellen wereldwijd.