AI-kosten beheersen bij API-gebruik

Een abonnement op een AI-chatdienst heeft een vaste prijs. Bij AI via een API, bijvoorbeeld in een automatisering, chatbot of eigen applicatie, betaal je per gebruik. Dat is flexibel en vaak goedkoop, maar kan onverwacht oplopen bij veel verzoeken, lange teksten of fouten. Met een paar maatregelen houd je grip.

Hoe wordt afgerekend?

• Tokens: AI-modellen rekenen met tokens, stukjes tekst. Een token is gemiddeld een deel van een woord.
• Invoer en uitvoer: je betaalt voor de tekst die je stuurt (prompt, documenten, gespreksgeschiedenis) en voor de tekst die terugkomt. Uitvoer is vaak duurder per token.
• Model: grotere, krachtigere modellen kosten meer per token dan kleinere.
• Extra functies: beeld, spraak, zoeken of tools kunnen apart worden afgerekend.

Prijzen verschillen per leverancier en model en veranderen regelmatig; raadpleeg de actuele prijzen.

Waar komen hoge kosten vandaan?

• Lange invoer — Voorbeeld: hele documenten of lange gespreksgeschiedenis bij elk verzoek
• Te zwaar model — Voorbeeld: een groot model voor een eenvoudige classificatie
• Veel verzoeken — Voorbeeld: elke binnenkomende mail, elk bezoek aan de chatbot
• Lussen en fouten — Voorbeeld: een automatisering die zichzelf herhaalt
• Agents — Voorbeeld: veel tussenstappen per taak. Zie AI-agents uitgelegd

Maatregelen

1. Kies het juiste model: gebruik een kleiner, goedkoper model voor eenvoudige taken (sorteren, samenvatten) en een groter model alleen waar nodig.
2. Beperk de invoer: stuur alleen relevante stukken, niet hele documenten.
3. Beperk de uitvoer: vraag om korte antwoorden en stel een maximum in.
4. Cache: hergebruik antwoorden op veelgestelde vragen, en gebruik caching van de leverancier waar beschikbaar.
5. Batchverwerking: sommige leveranciers bieden lagere tarieven voor taken die niet direct klaar hoeven te zijn.
6. Limieten: stel een maandbudget en waarschuwingen in.
7. Monitoren: bekijk het gebruik per toepassing of API-sleutel.

Vooraf doorrekenen

Stel: een automatisering vat elke binnenkomende klantmail samen. Er komen 2.000 mails per maand binnen. Elke aanvraag aan het model bevat gemiddeld 800 tokens (instructie plus mail) en levert een samenvatting van 150 tokens op. Dat is per maand 1,6 miljoen invoertokens en 0,3 miljoen uitvoertokens.

Met een fictief tarief van €1 per miljoen invoertokens en €4 per miljoen uitvoertokens kost dat ongeveer €1,60 + €1,20 = €2,80 per maand. Stuur je bij elke mail de hele klantgeschiedenis van 10.000 tokens mee, dan wordt de invoer ruim twintig miljoen tokens en lopen de kosten met dezelfde tarieven op tot ruim €20 per maand. Met een model dat tien keer zo duur is, wordt dat meer dan €200.

(Rekenvoorbeeld met fictieve tarieven; gebruik de actuele prijzen van je leverancier.) De les is niet het bedrag, maar de verhouding: de lengte van de invoer en de keuze van het model bepalen de kosten veel meer dan het aantal verzoeken.

Organisatie

• Gebruik aparte API-sleutels per toepassing, zodat je kosten kunt toewijzen.
• Bewaar sleutels veilig en deel ze niet.
• Leg vast wie het budget bewaakt. Zie Mislukte automatiseringen bewaken.

Voorbeeld

Stel: een webshop laat bij elke productreview automatisch een AI-samenvatting maken met het grootste beschikbare model, en stuurt daarbij steeds alle eerdere reviews mee. De kosten lopen snel op. Na aanpassing wordt een kleiner model gebruikt, worden alleen de nieuwe reviews meegestuurd en wordt de samenvatting maar één keer per dag bijgewerkt. Er komt een maandlimiet met waarschuwing.

Veelgestelde vragen

Wat is een token?

Een stukje tekst waarmee AI-modellen rekenen; vaak een deel van een woord.

Is een abonnement goedkoper dan de API?

Voor persoonlijk gebruik vaak wel; voor automatiseringen en eigen toepassingen is de API meestal nodig.

Kan ik een harde limiet instellen?

Veel leveranciers bieden budgetlimieten en waarschuwingen. Controleer de mogelijkheden.

Welk model moet ik kiezen?

Het kleinste model dat de taak goed genoeg doet. Test meerdere modellen.

Hoe zie ik waar de kosten vandaan komen?

Via het gebruiksdashboard van de leverancier, liefst met aparte sleutels per toepassing.

Hulp nodig?

Wil je AI inzetten met voorspelbare kosten? Bekijk onze dienst AI-automatisering.

Stel in het dashboard van je AI-leverancier altijd een maandlimiet en een waarschuwing in, vóórdat je een automatisering live zet. Een fout in een lus kan anders in korte tijd veel kosten.