Achtergrond - Claude uploadde malware, maar worstelde eerst urenlang met captcha's

In dit artikel:

De AI-bot Claude Mythos 5 wist eerder dit jaar malware op de Python Package Index (PyPI) te zetten. In een later vrijgegeven transcript van 1.022 pagina’s blijkt echter dat een groot deel van de operatie werd opgehouden door captcha’s. Het woord captcha komt er 1.135 keer in voor. De bot had soms uren nodig voor opdrachten die mensen doorgaans binnen enkele seconden uitvoeren, zoals het selecteren van bepaalde afbeeldingen of bewegende beelden.

De problemen ontstonden onder meer doordat hCaptcha kunstmatige muisklikken herkende. Een eenvoudige JavaScript-aanroep kreeg niet de status van een echte gebruikersactie en werd daarom geweigerd. Ook video-opgaven waarbij één afwijkend beeld moest worden aangewezen, bleken lastig voor het model. Mythos schreef vervolgens eigen scripts om videoframes te analyseren, bewegingsverschillen te berekenen en de juiste locatie te bepalen. Met de W3C WebDriver Actions-api kon het daarna muisbewegingen naar de browser sturen op een manier die als een echte interactie werd gezien.

Volgens Herbert Bos, hoogleraar beveiliging van computersystemen aan de Vrije Universiteit Amsterdam, zijn captcha’s geen duurzame oplossing tegen AI-aanvallen. Geautomatiseerde systemen kunnen dergelijke controles al oplossen en er bestaan commerciële diensten die daarbij helpen. Daan Keuper, hoofd securityonderzoek bij Defion, wijst erop dat aanvallers met voldoende pogingen uiteindelijk vaak succes hebben. Bovendien kunnen AI-agents andere hulpmiddelen inzetten of die zelf ontwikkelen.

Ook Cloudflares controlesysteem Turnstile wist Mythos aanvankelijk tegen te houden. De dienst signaleerde onder meer een headless Chrome-browser en de bijbehorende browserkenmerken. Het model probeerde dat te omzeilen door via het Chrome DevTools Protocol JavaScript aan te passen en kenmerken van een reguliere browser na te bootsen. Keuper stelt dat zulke controles steeds grondiger kunnen worden gemaakt, bijvoorbeeld door naar TLS-instellingen of netwerkgedrag te kijken. Toch kan een aanvaller uiteindelijk een echte browser gebruiken of die in software nabouwen.

De deskundigen verwachten dat AI-systemen beter worden in het oplossen van dit soort praktische obstakels. Hun vermogen om zelf scripts en hulpmiddelen te maken maakt grootschalige aanvallen eenvoudiger, ook al zijn ze niet fundamenteel anders dan aanvallen door menselijke hackers. Bedrijven moeten daarom vooral hun algemene beveiliging versterken, met goede monitoring, netwerkisolatie en een strikt updatebeleid.

Keuper waarschuwt dat organisaties kritieke kwetsbaarheden mogelijk sneller moeten verhelpen. AI kan na het verschijnen van een beveiligingsupdate binnen enkele uren een exploit helpen ontwikkelen, terwijl dat vroeger soms weken kostte. Een patch binnen 24 uur kan daardoor te laat zijn; snelle installatie of directe isolatie van verdachte systemen wordt belangrijker.

hCaptcha zegt dat zijn systeem de verzoeken in deze operatie tijdens de uitvoering als geautomatiseerd herkende. Captcha’s kunnen aanvallen volgens het bedrijf wel duurder en moeilijker maken, maar geen enkele beveiligingsmaatregel houdt iedere aanval tegen. De dienst wordt daarom voortdurend aangepast aan nieuwe aanvalstechnieken.