Artificial Intelligence

Privacyoverwegingen bij het gebruik van generatieve AI

Bas Alderding

Generatieve AI, zoals ChatGPT en DALL-E, heeft de wereld veroverd. Deze krachtige technologieën stellen ons in staat om verbluffende afbeeldingen, video's en teksten te genereren op basis van tekstuele input.

Wat zijn AI taalmodellen?

Voordat we naar de kosten kijken, is het goed om even stil te staan bij wat AI taalmodellen precies zijn. Een LLM is een type AI model dat getraind is op enorme hoeveelheden tekst. Het model leert patronen en relaties in taal te herkennen en kan op basis van deze patronen nieuwe, samenhangende teksten genereren.

Bekende voorbeelden van LLMs zijn OpenAI's GPT-4 en Google's Gemini. Deze modellen zijn in staat om indrukwekkende resultaten te leveren in tekstgeneratie, vertaling, samenvatting en meer.


Open source versus gesloten bron

Als je een AI LLM voor je project wil gebruiken, heb je ruwweg twee opties: open source of gesloten bron cloudproviders.

Open source LLMs zijn modellen waarvan de broncode openbaar beschikbaar is. Iedereen kan deze modellen downloaden, trainen en gebruiken. Voorbeelden zijn Grok van X en LLAMA van Meta. Het voordeel van open source is dat je volledige controle hebt over het model en niet afhankelijk bent van een externe partij. Nadelen zijn dat je zelf verantwoordelijk bent voor de infrastructuur en dat de prestaties soms wat achterblijven bij gesloten-bronalternatieven.

Gesloten bron LLMs worden aangeboden door cloudproviders zoals OpenAI, Google, Microsoft, Anthropic en Amazon. Je kunt deze modellen aanroepen via een API en betaalt per gebruik. Het grote voordeel is het gemak: je hoeft je eigen infrastructuur niet op te zetten en kunt meteen aan de slag. Ook zijn de modellen vaak van hoge kwaliteit. Een nadeel is dat je afhankelijk bent van de cloudprovider en minder controle hebt.



Kosten van open source LLMs

De kosten voor het gebruik van een open source LLM bestaan voornamelijk uit de benodigde rekenkracht om het model te trainen en te draaien. Je hebt een krachtige GPU nodig en veel opslagruimte voor de datasets.

De exacte kosten zijn afhankelijk van de grootte van het model en hoe intensief je het gebruikt. Voor een middelgroot model kun je al snel denken aan enkele duizenden euro's voor de hardware. Daarbij komen nog de kosten voor elektriciteit en onderhoud.


Kosten gesloten bron LLMs

Bij gesloten-bron cloudproviders betaal je per API-oproep. Prijzen variëren per provider en model. Ter indicatie, bij OpenAI betaal je $0.03 per 1.000 tokens voor het populaire GPT-4 model. Eén token komt ongeveer overeen met 4 tekens van tekst.

Stel dat je een applicatie hebt die 1 miljoen woorden per maand genereert. Dat zijn ongeveer 250.000 tokens. De kosten komen dan uit op ongeveer $7,50 per maand. Let op dat dit een voorbeeld is en de daadwerkelijke kosten sterk afhangen van je specifieke gebruiksscenario.

Naast API-kosten betaal je bij sommige providers ook voor de opslag van je gegevens en het trainen van aangepaste modellen. Hier kunnen de kosten aanzienlijk zijn, tot duizenden euro's per maand.


Conclusie

De kosten van het gebruik van een AI taalmodel lopen sterk uiteen. Met open source betaal je eenmalig voor de benodigde hardware, met gesloten bron per gebruik via een API. Wat het beste bij je project past, hangt af van je specifieke behoeften en vereisten.

Over het algemeen kun je zeggen dat open source interessant is als je volledige controle wilt en bereid bent om te investeren in infrastructuur. Gesloten bron is een goede keuze als je snel resultaten wilt en gemak belangrijker vindt dan controle.

Welke optie je ook kiest, AI taalmodellen zijn een fascinerende technologie met veel potentieel. De ontwikkelingen gaan snel en de mogelijkheden lijken eindeloos. Het is zeker de moeite waard om te verkennen wat AI voor je project kan betekenen!

SevenLab is een betrouwbare partner met een sterke klantgerichtheid. Ze denken actief met je mee, zijn enorm behulpzaam en flexibel.

Satish Bahwanidin

Projectleider VO-raad

Bekijk wat we de laatste tijd hebben geschreven

Algemeen

Bas Alderding

API: De digitale voordelen van het koppelen van software

Algemeen

Bas Alderding

De voordelen van een Progressive Web App in één oogopslag

Algemeen

Bas Alderding

Het tijdperk van de Progressive Web App

Algemeen

Bas Alderding

Hoe maak ik een Progressive Web App?

Algemeen

Bas Alderding

API: De digitale voordelen van het koppelen van software

Algemeen

Bas Alderding

De voordelen van een Progressive Web App in één oogopslag

Algemeen

Bas Alderding

API: De digitale voordelen van het koppelen van software

Algemeen

Bas Alderding

De voordelen van een Progressive Web App in één oogopslag

Algemeen

Bas Alderding

API: De digitale voordelen van het koppelen van software

Algemeen

Bas Alderding

De voordelen van een Progressive Web App in één oogopslag

Algemeen

Bas Alderding

Het tijdperk van de Progressive Web App

Klaar om je project met ons te bespreken?

Maak kennis met het SevenLab-team en de oprichters