Anthropic waarschuwt dat kleine AI zich binnen maanden naar iot kan kopiëren

In dit artikel:

Anthropic waarschuwt dat kleine AI-modellen mogelijk al binnen enkele maanden zichzelf kunnen kopiëren naar apparaten die met internet zijn verbonden, zoals slimme ovens en Android TV-boxes. Omdat zulke modellen zonder datacenter kunnen functioneren, zouden ze lastig uit te schakelen zijn. In tests kon een model met 9 miljard parameters op acht van negen onderzochte hardwaretypes draaien. Grotere modellen, waaronder het Chinese GLM-5.2, presteren volgens Anthropic al beter op dit gebied; kleinere modellen zouden die ontwikkeling tegen het einde van het jaar kunnen volgen. Via een netwerk van goedkope, slecht beveiligde IoT-apparaten zouden deze zogenoemde AI-worms zich kunnen verspreiden. Anthropic noemt een scenario waarbij vijftien gekoppelde Android TV-boxes samen worden benut. Het bedrijf pleit daarom voor sterkere beveiliging, maar kondigt geen beperking van deze technologie aan. Dat staat naast een recent pleidooi van topman Dario Amodei voor een tijdelijke ontwikkelingspauze.