Wat zijn AI-taalmodellen?

Voordat we naar de kosten kijken, is het goed om even stil te staan bij wat AI-taalmodellen precies zijn. Een LLM is een type AI-model dat op enorme hoeveelheden tekst is getraind. Het model leert patronen en relaties in taal te herkennen en kan op basis van deze patronen zelf nieuwe, coherente teksten genereren.

Bekende voorbeelden van LLMs zijn OpenAI's GPT-4 en Google's Gemini. Deze modellen kunnen indrukwekkende resultaten leveren in tekstgeneratie, vertaling, samenvatting en meer.

Open source vs. gesloten source

Als je een AI LLM voor je project wilt gebruiken, heb je grofweg twee opties: open source of gesloten source cloudleveranciers.

Open source LLMs zijn modellen waarvan de broncode openbaar beschikbaar is. Iedereen kan deze modellen downloaden, trainen en gebruiken. Voorbeelden zijn Grok van X en LLAMA van Meta. Het voordeel van open source is dat je volledige controle over het model hebt en niet afhankelijk bent van een externe partij. Nadelen zijn dat je zelf verantwoordelijk bent voor de infrastructuur en dat de prestaties soms wat achterblijven bij gesloten-source alternatieven.

Gesloten source LLMs worden aangeboden door cloudleveranciers zoals OpenAI, Google, Microsoft, Anthropic en Amazon. Je kunt deze modellen via een API aanroepen en betaalt per gebruik. Het grote voordeel is gemak: je hoeft geen eigen infrastructuur op te zetten en kunt meteen aan de slag. Ook zijn de modellen vaak van hoge kwaliteit. Een nadeel is dat je afhankelijk bent van de cloudprovider en minder controle hebt.

Kosten van open source LLMs

De kosten van het gebruik van een open source LLM bestaan voornamelijk uit de rekenkracht die nodig is om het model te trainen en te draaien. Je hebt een krachtige GPU en veel opslagruimte voor de datasets nodig.

De exacte kosten hangen af van de grootte van het model en hoe intensief je het gebruikt. Voor een model van gemiddelde grootte reken je al snel op enkele duizenden euro's voor de hardware. Daar komen de kosten voor elektriciteit en onderhoud nog bij.

Kosten gesloten source LLMs

Bij gesloten-source cloudleveranciers betaal je per API-aanroep. De prijzen variëren per leverancier en model. Ter indicatie: bij OpenAI betaal je $0,03 per 1.000 tokens voor het populaire GPT-4 model. Eén token komt ongeveer overeen met 4 tekens tekst.

Stel dat je een applicatie hebt die 1 miljoen woorden per maand genereert. Dat komt neer op ongeveer 250.000 tokens. De kosten bedragen dan ongeveer $7,50 per maand. Let op dat dit een voorbeeld is en de werkelijke kosten sterk afhangen van je specifieke gebruiksscenario.

Naast API-kosten betaal je bij sommige leveranciers ook voor opslag van je data en het trainen van aangepaste modellen. Hier kunnen de kosten aanzienlijk oplopen, tot duizenden euro's per maand.

Conclusie

De kosten van het gebruik van een AI-taalmodel variëren sterk. Bij open source betaal je eenmalig voor de benodigde hardware, bij gesloten source per gebruik via een API. Wat het beste bij je project past, hangt af van je specifieke behoeften en eisen.

In het algemeen kun je zeggen dat open source interessant is als je volledige controle wilt en bereid bent te investeren in infrastructuur. Gesloten source is een goede keuze als je snel resultaten wilt en gemak belangrijker vindt dan controle.

Welke optie je ook kiest, AI-taalmodellen zijn een fascinerende technologie met veel potentieel. De ontwikkelingen gaan snel en de mogelijkheden lijken eindeloos. Het is zeker de moeite waard om te ontdekken wat AI voor je project kan betekenen!