'Alibaba trainde eigen AI-model stiekem via 28,8 miljoen Mythos-gesprekken'

In dit artikel:

Anthropic beschuldigt Alibaba ervan te werken aan een eigen AI-model, Mythos, op basis van output van Claude, de chatbot van Anthropic. Volgens het Amerikaanse bedrijf zou Alibaba daarbij gebruikmaken van distillation: een techniek waarbij een kleiner of nieuw model leert van antwoorden van een krachtiger systeem om sneller betere prestaties te behalen.

De verdenking draait om een grote reeks vragen en antwoorden die tussen eind april en begin juni zou zijn verzameld, goed voor ruim 28,8 miljoen gesprekken en bijna 25.000 zogenoemde fraude-accounts. Anthropic noemt dit in een brief aan twee Amerikaanse senatoren, die op 10 juni werd verstuurd, de zwaarste aanval tot nu toe op zijn modellen. Het bedrijf stelt dat Chinese partijen al eerder zijn betrapt op het trainen van AI op basis van Claude.

De kwestie kreeg extra gewicht omdat de Amerikaanse overheid enkele dagen later Mythos en de publieke versie Fable buiten de VS blokkeerde uit angst voor misbruik. Anthropic maakte daarna zijn modellen voor iedereen onbereikbaar, omdat het bedrijf volgens eigen zeggen niet kan vaststellen of gebruikers in de VS zitten. Of de beschuldiging aan Alibaba direct invloed had op het verbod, is niet duidelijk. Volgens berichten speelde ook een onderzoeksrapport van Amazon mee. De Amerikaanse president ziet de modellen inmiddels niet meer als een veiligheidsrisico, maar de blokkade blijft van kracht.