Overslaan naar inhoud

Beslismodellen: niet elke AI-stap hoeft een duur taalmodel

Gemini Decision 1 kiest uit vaste opties voor een fractie van de prijs, als je proces de opties al helder heeft.
17 november 2026

Niet elke stap in een AI-proces vraagt om een taalmodel dat tekst schrijft. Moet een ticket, factuur of lead alleen in een vaste categorie belanden, dan kan een beslismodel dat voor een fractie van de kosten. Google bracht er op 11 november een uit: Gemini Decision 1. Het loont alleen als je proces de keuze-opties al helder heeft en je meet op je eigen voorbeelden.

Wat we tegenkwamen

We volgen een vaste kring van makers en nieuwsbrieven die zelf met AI werken. Latent Space schreef deze week twee keer over deze soort modellen, die geen tekst teruggeven maar een keuze, een score of een kans.

Kiezen in plaats van schrijven

Gemini Decision 1 schrijft geen antwoord, maar scoort vaste opties in één stap. Volgens Google:

  • Ja of nee, meerkeuze met 2 tot 255 opties, of een score op een rubric.
  • Tot 1.000 vragen per aanroep, over tekst, beeld, audio, video en pdf.
  • Bij elk antwoord een zekerheidsscore van 0 tot 1, zodat twijfelgevallen naar een groter model of een mens kunnen.
  • 0,10 dollar per miljoen invoertokens, niets voor de uitvoer, 150 tot 250 milliseconden per antwoord.

Wij vinden: die zekerheidsscore is het belangrijkste onderdeel, omdat je daarmee zelf bepaalt wanneer een mens meekijkt.

Goedkoop per token, niet per se per taak

Google noemt het bijna vijf keer goedkoper dan Gemini 3.5 Flash-Lite. Het onafhankelijke testbureau Artificial Analysis ziet een gemengder beeld:

  • Op hun beslisindex scoort het 66, gelijk met Jev van TypeSafe AI.
  • Op documenten met meerdere vragen had het bij 33 procent van de documenten alles goed; de beste concurrent haalde 63 procent.
  • Een miljoen taken kostten 345 dollar, tegen 156 dollar voor Jev. Gemiddeld duurde een taak 211 milliseconden, tegen 92 voor Jev.

Wij vinden: reken per taak en niet per token, zoals bij elk model. De laagste tokenprijs gaf hier niet de goedkoopste taak.

Bedrijven gebruiken het al, deels nog als proef

Jev kwam in september uit. Op de AI Engineer Code Summit lieten bedrijven zien wat ze ermee doen:

  • Glean gebruikt Jev in zijn product, naast taalmodellen. Verandert de indeling, dan hoeft het model niet opnieuw getraind te worden.
  • UiPath liet in een test duizenden documentdelen in toernooivorm rangschikken, in minder dan een seconde.
  • Workday toonde een prototype dat een verlofaanvraag invult terwijl de gebruiker nog typt.

Wij vinden: let op het verschil tussen productie en proef. Alleen bij Glean draait het echt, en alle cijfers komen van de sprekers zelf.

Klein model sorteert, groot model denkt

Cloudflare liet een opzet zien waarin snelle beslismodellen het gereedschap kiezen en logregels uitlezen, en een groot redeneermodel alleen de diagnose stelt. In hun demo ging het van zes aanroepen naar één, en van ongeveer 40.000 naar 1.800 tokens.

Wij vinden: dit is de opzet die we zouden aanraden, omdat het dure model dan alleen werk krijgt waar echt nagedacht moet worden.

Wat je nu doet

  • Zoek de keuzestappen in je proces. Waar deelt AI nu een ticket, factuur of lead in, in Odoo of een ander systeem? Liggen de opties vast, dan is dat een kandidaat.
  • Maak de opties eerst helder. Een beslismodel kiest alleen uit wat jij opgeeft.
  • Meet op je eigen voorbeelden. Laat het model een paar honderd afgehandelde gevallen indelen en vergelijk met je team. Dan weet je hoe vaak het goed zit en wat het per taak kost.

Hoe het technisch in elkaar zit

Een taalmodel schrijft zijn antwoord token voor token. Een beslismodel krijgt de opties mee en berekent in één rekenstap de kans per optie. Vertrouw de zekerheidsscore pas als je op eigen data hebt gezien dat hij klopt: leg een drempel vast en stuur alles daaronder door. De cijfers in dit stuk komen van Google, Artificial Analysis en de sprekers; zie ze als indicatie.

Dit nieuws raakt hoofdstuk 9 en 23 en 24 van de cursus Alles of (n)iets met AI van Newway. Volg je de cursus, dan komt dit onderwerp daar in meer rust terug.

Wat je hiermee kunt

Wil je weten wat dit voor jouw bedrijf betekent? Plan een kennismaking: een half uur, geen verkooppraatje, wel een eerlijk antwoord op de vraag waar je moet beginnen. Liever eerst zelf verder lezen? De cursus Alles of (n)iets met AI is gratis en begint bij de basis.

Geschreven naar aanleiding van publicaties van Latent Space over Decision Models Day en Latent Space over Jev.