Nvidia brengt aanpasbaar opensource-AI-model uit dat op één gpu draait - update

In dit artikel:

Nvidia heeft Nemotron 3.5 Lightning uitgebracht, een gratis opensource-AI-model dat gebruikers kunnen aanpassen aan bijvoorbeeld een eigen schrijfstijl of programmeervoorkeuren. Het model is beschikbaar via Hugging Face, ModelScope, OpenRouter en Nvidia en draait lokaal op Nvidia-computers, waaronder RTX-pc’s en DGX Spark-workstations. Ook kan het worden opgeschaald naar datacenters en cloudomgevingen.

Volgens Nvidia maakt de combinatie van aanpasbaarheid en toegang tot lokale bestanden, apps en hulpmiddelen persoonlijke AI-agents mogelijk. Die kunnen onder meer helpen met e-mail, agenda’s, smarthometaken en programmeren. Nvidia claimt dat het model tot vier keer sneller tokens genereert en taken 30 procent sneller uitvoert dan vergelijkbare open modellen, maar noemt geen duidelijke vergelijkingsbasis. De precieze minimale hardwarevereisten zijn eveneens niet bekendgemaakt. Nvidia verwijst wel naar systemen met een RTX 5090 en 32GB videogeheugen; volgens Ollama hebben sommige uitvoeringen 23GB tot 25GB nodig.