'Alibaba trainde eigen AI-model stiekem via 28,8 miljoen Claude-gesprekken'

In dit artikel:

Anthropic beschuldigt Alibaba ervan op grote schaal Claude-output te gebruiken om een eigen AI-model, Mythos, sneller te ontwikkelen. Volgens het Amerikaanse bedrijf gebeurde dat via zogeheten distillation: een techniek waarbij een nieuw model leert van de antwoorden van een krachtiger model. Anthropic zegt dat Alibaba daarmee kwetsbaarheden in software probeert te vinden en noemt het de grootste aanval tot nu toe op zijn systemen.

De vermeende activiteit speelde zich af tussen eind april en begin juni en zou zijn uitgevoerd met ruim 28,8 miljoen gesprekken en bijna 25.000 frauduleuze accounts. Anthropic stuurde zijn waarschuwingen op 10 juni naar leden van de Amerikaanse Senaat. Enkele dagen later besloten de Verenigde Staten om Mythos en de publieke versie Fable buiten de VS te verbieden vanwege zorgen over mogelijk misbruik. Anthropic maakte daarop beide modellen wereldwijd ontoegankelijk, omdat het volgens het bedrijf niet kan controleren waar gebruikers vandaan komen.

Of de beschuldiging aan Alibaba direct heeft meegewogen in het Amerikaanse verbod is onduidelijk. Het besluit kwam mogelijk ook voort uit een apart onderzoeksrapport van Amazon. Inmiddels zou de Amerikaanse president de modellen niet langer als nationaal veiligheidsrisico zien, maar de blokkade blijft van kracht.