Google introduceert open AI-model dat 'op broodrooster kan draaien'

In dit artikel:

Google heeft het nieuwe lichte AI-model Gemma 3 270M uitgebracht: een taalmodel met 270 miljoen parameters dat ontworpen is om zuinig te draaien op eenvoudige, goedkope hardware en zowel in de cloud als lokaal te worden gebruikt. Volgens Google is het model bedoeld als basis voor meerdere kleine, gespecialiseerde modellen die elk een specifieke taak uitvoeren, zoals sentimentanalyse, queryroutering en nalevingscontroles. Op de IFEval-benchmark haalt Gemma 3 270M een score van 51,2, waarmee het bedrijf aangeeft dat het beter presteert dan het Qwen 2.5 0.5B-model op instructievolgingstaken.

Google benadrukt dat ontwikkelaars het model makkelijk en betaalbaar kunnen fine-tunen voor maatwerktoepassingen. Interne tests zouden aantonen dat Gemma 3 270M zeer energiezuinig is: 25 gesprekken verbruikten ongeveer 0,75% van de accu van een Pixel 9 Pro. Een Google-ontwikkelaar, Omar Sanseviero, noteerde op X dat het model “op een broodrooster of direct in een browser” kan draaien, waarmee hij de lage hardware-eisen illustreert. De modelgewichten zijn gratis beschikbaar maar vallen onder een licentie met gebruiksbeperkingen; downloads zijn onder meer mogelijk via Hugging Face, Ollama, LM Studio en Docker.