# AI op het apparaat zelf: NVIDIA beschrijft aanpak voor Jetson

Een nieuwe ontwikkelaarshandleiding behandelt lokale AI-modellen en snellere tekstgeneratie. Welke instelling werkt, hangt volgens NVIDIA af van de toepassing.

- Canonieke URL: https://ngnews.nl/artikel/bericht-24338e7a6f68e30f5883
- Gepubliceerd: 2026-09-05T09:01:05Z
- Rubriek: Tech
- Uitgever: Nxt

![AI-illustratie van een blauwe rekenmodule die rechtstreeks verbonden is met een sensor en een kleine robotgrijper](https://ngnews.nl/web/images/nxt-a1c64dccfc1ebf23ee70.jpg)

AI-illustratie · Nxt Generation News · Geen foto van de beschreven gebeurtenis.

NVIDIA publiceerde op 4 september een handleiding voor het draaien van AI-modellen op Jetson, zijn hardware voor lokale toepassingen. De voorbeelden gebruiken Nemotron 3.5 Lightning en Qwen3.8-27B. Het bedrijf beschrijft hoe zulke modellen dicht bij sensoren en machines kunnen werken, zonder voor iedere modelaanroep afhankelijk te zijn van een datacenter.

## Minder rekenwerk per antwoord

De toelichting behandelt twee manieren om tekst sneller te genereren. Quantisatie gebruikt getallen met een lagere precisie, wat minder geheugen en rekenwerk vraagt. Daarnaast kan een kleiner model alvast stukjes tekst voorstellen die het hoofdmodel gezamenlijk controleert. NVIDIA meldt dat de snelste combinatie van technieken in zijn tests per model verschilde.

## Eigen taken blijven de maatstaf

De fabrikant raadt ontwikkelaars aan snelheid én nauwkeurigheid te controleren met voorbeelden uit hun eigen toepassing. Resultaten van algemene prestatietests vertellen immers niet of alle belangrijke eigenschappen behouden blijven. Ook een passend kleiner voorstelmodel levert volgens de handleiding niet automatisch de verwachte versnelling: daarvoor moet het hoofdmodel genoeg voorgestelde tekst accepteren.

## Bronnen

- [NVIDIA Developer](https://developer.nvidia.com/blog/frontier-reasoning-reaches-the-edge-how-to-deploy-and-optimize-models-on-nvidia-jetson/)

Zelfstandig geformuleerd met behulp van AI op basis van de genoemde bronnen.