{"id":35350,"date":"2026-03-17T12:26:44","date_gmt":"2026-03-17T12:26:44","guid":{"rendered":"https:\/\/aisuperior.com\/?p=35350"},"modified":"2026-03-17T12:26:44","modified_gmt":"2026-03-17T12:26:44","slug":"cost-of-training-llm-from-scratch","status":"publish","type":"post","link":"https:\/\/aisuperior.com\/nl\/cost-of-training-llm-from-scratch\/","title":{"rendered":"Kosten van een LLM-opleiding vanaf nul in 2026: concrete cijfers"},"content":{"rendered":"

Korte samenvatting:<\/b> Het trainen van een LLM (Large-Library Model) vanaf nul kost tussen de 1 TP4 TB 78 miljoen en 1 TP4 TB 192 miljoen voor geavanceerde modellen zoals GPT-4 en Gemini Ultra 1.0, vanwege de enorme GPU-clusters, elektriciteit, data-acquisitie en de benodigde technische expertise. Kleinere modellen kunnen getraind worden voor 1 TP4 TB 50.000 tot 1 TP4 TB 500.000 met behulp van cloudinfrastructuur of voor minder dan 1 TP4 TB met effici\u00ebnte optimalisatietechnieken, maar organisaties worden geconfronteerd met doorlopende kosten voor inferentie, opslag en onderhoud die vaak hoger liggen dan de trainingskosten.<\/span><\/p>\n

Grote taalmodellen hebben onze interactie met technologie ingrijpend veranderd. Maar wat de meeste mensen zich niet realiseren, is dat het cre\u00ebren van deze modellen astronomisch duur is.<\/span><\/p>\n

Volgens het Stanford AI Index Report 2025 zijn de trainingskosten voor geavanceerde modellen dramatisch gestegen. De training van GPT-4 kostte ergens tussen de $78 miljoen en $100 miljoen. De trainingskosten voor Gemini Ultra worden geschat op ongeveer $191 miljoen, aldus het Stanford AI Index Report 2024. Deze bedragen vertegenwoordigen een stijging van 287.000 keer ten opzichte van de kosten voor het trainen van een Transformer-model in 2017, die slechts $670 bedroegen.<\/span><\/p>\n

Waar komen deze enorme kosten vandaan? En, nog belangrijker, wat kost het nu eigenlijk als je overweegt om je eigen model helemaal vanaf nul te trainen?<\/span><\/p>\n

De werkelijke kosten van een LLM-opleiding ontrafeld<\/span><\/h2>\n

Het trainen van een groot taalmodel vanaf nul is niet alleen duur, maar ook een veelzijdige financi\u00eble investering die hardware, energie, data en menselijk kapitaal omvat.<\/span><\/p>\n

Computerinfrastructuur: de grootste kostenpost<\/span><\/h3>\n

De rekenkosten domineren alles. Krachtige GPU's zoals de NVIDIA H100 kunnen $30.000 per stuk kosten. Maar dat is nog maar het begin.<\/span><\/p>\n

Ter context: het trainen van geavanceerde modellen vereist duizenden GPU's die weken of maandenlang continu draaien. Onderzoek van arXiv naar de economische aspecten van GPU's toonde aan dat een A800 80G GPU een basiskostprijs heeft van ongeveer $0,79 per uur, met typische prijzen tussen $0,51 en $0,99 per uur, afhankelijk van de configuratie en de prijsstelling van het cloudplatform.<\/span><\/p>\n

OpenAI heeft naar verluidt meer dan 1,4 biljoen dollar uitgegeven aan het trainen van GPT-4, waarvan een aanzienlijk deel is besteed aan cloudcomputingkosten. De omvang is moeilijk te bevatten.<\/span><\/p>\n\n\n\n\n\n\n\n\n
Model<\/span><\/th>\nGeschatte trainingskosten<\/span><\/th>\nBron<\/span><\/th>\n<\/tr>\n<\/thead>\n
GPT-4<\/span><\/td>\n$78M-$100M+<\/span><\/td>\nWall Street Journal, Stanford AI Index 2025<\/span><\/td>\n<\/tr>\n
Gemini Ultra 1.0<\/span><\/td>\n$191M<\/span><\/td>\nStanford AI Index Rapport 2024<\/span><\/td>\n<\/tr>\n
GPT-4o<\/span><\/td>\n~$100M<\/span><\/td>\nSchattingen van de sector<\/span><\/td>\n<\/tr>\n
Transformer (2017)<\/span><\/td>\n$670<\/span><\/td>\nStanford AI Index Rapport 2025<\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Energieverbruik en milieukosten<\/span><\/h3>\n

Het continu laten draaien van duizenden GPU's verbruikt enorme hoeveelheden elektriciteit. Onderzoek gepubliceerd in de Springer-studie uit 2025 over energie-effici\u00ebntie in grote taalmodellen laat zien dat de dynamiek van het energieverbruik rechtstreeks samenhangt met de modelgrootte en de batchconfiguratie.<\/span><\/p>\n

De milieu-impact reikt verder dan alleen de trainingsfase. Naarmate de rekenkracht toeneemt, groeit ook de bezorgdheid over duurzaamheid en de CO2-uitstoot.<\/span><\/p>\n

Gegevensverzameling en -voorbereiding<\/span><\/h3>\n

Een aspect dat onvoldoende aandacht krijgt, is de menselijke arbeid die nodig is voor het trainen van data. Deze arbeid wordt aanzienlijk ondergewaardeerd. In een position paper, gepubliceerd op Hugging Face in april 2025, wordt betoogd dat de productiekosten van data gelijk zouden moeten zijn aan, of zelfs hoger zouden moeten liggen dan, de rekenkosten van de training.<\/span><\/p>\n

Kwalitatief hoogwaardige datasets ontstaan niet zomaar uit het niets. Ze vereisen:<\/span><\/p>\n