{"id":35264,"date":"2026-03-16T14:58:16","date_gmt":"2026-03-16T14:58:16","guid":{"rendered":"https:\/\/aisuperior.com\/?p=35264"},"modified":"2026-03-16T14:58:16","modified_gmt":"2026-03-16T14:58:16","slug":"cost-of-fine-tuning-llm","status":"publish","type":"post","link":"https:\/\/aisuperior.com\/nl\/cost-of-fine-tuning-llm\/","title":{"rendered":"Kosten voor het finetunen van LLM: Prijs- en budgetgids voor 2026"},"content":{"rendered":"

Korte samenvatting:<\/b> Het finetunen van een LLM kost doorgaans tussen de 1 TP4T5 en 1 TP4T10.000, afhankelijk van de modelgrootte, de gebruikte techniek en de infrastructuur. Kleinere modellen (2-8 miljard parameters) met parameter-effici\u00ebnte methoden zoals LoRA kunnen voor minder dan 1 TP4T10 op cloud-GPU's worden gefinetuned, terwijl het volledig finetunen van grotere modellen op premium infrastructuur meer dan 1 TP4T10.000 kan kosten. Inzicht in de kostenfactoren \u2013 rekenkracht, volume van de trainingsdata, modelarchitectuur en techniekkeuze \u2013 helpt teams om effectief te budgetteren.<\/span><\/p>\n

De kosten voor het finetunen van grote taalmodellen overvallen de meeste teams. Trainen vanaf nul kan miljoenen kosten \u2013 Google's Gemini Ultra zou naar verluidt 191 miljoen dollar hebben gekost, terwijl GPT-4 rond de 78 miljoen dollar kostte \u2013 maar het finetunen van bestaande modellen is een heel ander verhaal.<\/span><\/p>\n

Het probleem is echter dat de kosten voor finetuning enorm vari\u00ebren. Een onderzoeksteam van Stanford heeft Qwen3-8B-Base voor minder dan $5 gefinetuned met behulp van LoRA-adapters op de beheerde service van Together AI. Volledige finetuning op bedrijfsinfrastructuren kost daarentegen doorgaans tussen de $3.000 en $10.000.<\/span><\/p>\n

Inzicht in waar je geld naartoe gaat, is belangrijker dan de prijs op het prijskaartje.<\/span><\/p>\n

Wat drijft de kosten van fijnafstelling op?<\/span><\/h2>\n

Vier hoofdfactoren bepalen wat fijnafstelling daadwerkelijk kost.<\/span><\/p>\n

Computerinfrastructuur<\/span><\/h3>\n

De keuze van de GPU zorgt voor de grootste prijsverschillen. Cloudproviders rekenen per uur en de tarieven vari\u00ebren sterk afhankelijk van de hardwareklasse.<\/span><\/p>\n

Een NVIDIA A10G \u2013 een middenklasse grafische kaart volgens de huidige maatstaven \u2013 kost ongeveer $1,50 tot $2,50 per uur op de belangrijkste cloudplatformen. De eerder genoemde finetuning-taak die minder dan $10 kostte, duurde vier uur op \u00e9\u00e9n enkele A10G.<\/span><\/p>\n

Maar opschalen wordt al snel duur. Premium GPU's zoals de A100 of H100 verwerken $4 tot $8 per uur op AWS of Google Cloud. Multi-GPU-configuraties voor grotere modellen vermenigvuldigen deze kosten lineair.<\/span><\/p>\n

Zelf hosten brengt een andere berekening met zich mee. Een RTX 4090 kost ongeveer 1.600 euro aan aanschafkosten, maar elimineert terugkerende uurkosten. Volgens discussies op LinkedIn verdient \u00e9\u00e9n GPU zichzelf binnen enkele weken terug, vergeleken met 2.500 euro aan maandelijkse abonnementskosten voor een GPU-node in de cloud \u2013 mits het gebruik constant hoog blijft.<\/span><\/p>\n

Modelgrootte en architectuur<\/span><\/h3>\n

Het aantal parameters heeft direct invloed op de geheugenvereisten en de trainingsduur.<\/span><\/p>\n\n\n\n\n\n\n\n
Modelmaat<\/span><\/th>\nVRAM (volledige fijnafstelling)<\/span><\/th>\nVRAM (4-bits LoRA)<\/span><\/th>\nTypisch kostenbereik<\/span><\/th>\n<\/tr>\n<\/thead>\n
2-3B parameters<\/span><\/td>\n6-8 GB<\/span><\/td>\n2-3 GB<\/span><\/td>\n$300-$700<\/span><\/td>\n<\/tr>\n
7-8B parameters<\/span><\/td>\n14-16 GB<\/span><\/td>\n6-8 GB<\/span><\/td>\n$1.000-$3.000 (LoRA)<\/span><\/p>\n

Tot $12.000 (volledig)<\/span><\/td>\n<\/tr>\n

12-13B parameters<\/span><\/td>\n24-28 GB<\/span><\/td>\n10-12 GB<\/span><\/td>\n$5,000-$15,000<\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Phi-2 (2,7 miljard parameters) met LoRA kost doorgaans tussen de $300 en $700. Mistral 7B-modellen kosten tussen de $1.000 en $3.000 met LoRA, maar volledige fine-tuning kan de kosten opdrijven tot $12.000.<\/span><\/p>\n

De geheugenvereisten verklaren dit. Bij volledige finetuning worden de gradi\u00ebnten voor elke parameter opgeslagen. Een 7B-model heeft ongeveer 28 GB VRAM nodig om alleen al de gewichten met 16-bits precisie te laden \u2013 nog voordat rekening wordt gehouden met gradi\u00ebnten, optimizer-statussen en activatiegeheugen tijdens de training.<\/span><\/p>\n

Selectie van trainingstechnieken<\/span><\/h3>\n

De gekozen methode voor fijnafstelling heeft een drastische invloed op zowel de kosten als de benodigde middelen.<\/span><\/p>\n