Duurzaamheid & IT
De Verborgen Prijs van de AI-Revolutie
We prijzen kunstmatige intelligentie vaak om zijn vermogen om efficiëntie te verhogen en afval te verminderen — bijvoorbeeld door het optimaliseren van logistieke routes of het slim aansturen van gebouwverwarming. Echter, de ontwikkeling en het operationeel houden van de AI-modellen zelf (met name Large Language Models) brengt een gigantische en groeiende ecologische kostenpost met zich mee. De AI-revolutie vereist ongekende hoeveelheden rekenkracht, wat leidt tot een explosieve stijging in de energieconsumptie en het waterverbruik van datacenters wereldwijd.
Naarmate de maatschappij en wetgevers strenger toezien op ESG-doelstellingen (Environmental, Social, and Governance), groeit de urgentie binnen de IT-sector om ‘Green AI’ te omarmen. Bedrijven moeten niet alleen kijken naar de financiële kosten van hun cloud-architectuur, maar ook naar de ecologische impact.
Het Energieverbruik van Training vs. Inferentie
De levenscyclus van een AI-model bestaat uit twee fasen: training en inferentie. Het trainen van een state-of-the-art model zoals GPT-4 vergt maandenlang de maximale rekenkracht van tienduizenden krachtige GPU’s. Studies tonen aan dat de energie die nodig is voor één trainingscyclus van een groot taalmodel gelijk staat aan de CO2-uitstoot van honderden trans-Atlantische vluchten.
Maar het stopt niet bij de training. Elke keer dat een gebruiker een vraag stelt (inferentie), verbruikt het datacenter energie om het antwoord te berekenen. Aangezien deze modellen miljoenen keren per dag worden geraadpleegd, overstijgt het totale energieverbruik van inferentie op de lange termijn ruimschoots de initiële trainingskosten. Dit legt een enorme druk op het elektriciteitsnet (netcongestie), vooral in dichtbevolkte datacenter-regio’s zoals de Haarlemmermeer.
Oplossingen uit de Industrie: Hardware en Architectuur
De tech-industrie is zich sterk bewust van dit probleem en werkt aan innovatieve oplossingen op zowel hardware- als softwareniveau. Grote cloud-providers investeren zwaar in duurzame energiebronnen en innovatieve koeltechnieken (zoals vloeistofkoeling in plaats van energie-slurpende airconditioners). Google ontwierp bijvoorbeeld zijn eigen Tensor Processing Units (TPU’s), chips die veel energie-efficiënter AI-berekeningen uitvoeren dan standaard hardware.
Aan de softwarekant verleggen data scientists de focus van ‘hoe groter het model, hoe beter’ naar efficiëntie. Technieken zoals ‘Model Pruning’ (het wegsnijden van overbodige verbindingen in het neurale netwerk) en kwantisering (het verlagen van de precisie van wiskundige berekeningen zonder veel nauwkeurigheid te verliezen) maken modellen aanzienlijk kleiner en zuiniger. Daarnaast wint de ontwikkeling van SLM’s (Small Language Models) terrein: modellen die specifiek getraind zijn voor één smalle taak en daardoor een fractie van de energie verbruiken vergeleken met gigantische generieke modellen.
FinOps en GreenOps in de Praktijk
Voor IT-afdelingen vloeit de beweging naar Green AI naadloos over in de bredere trend van FinOps (Financial Operations) en GreenOps. Door efficiënter om te gaan met cloud-resources, bespaar je immers niet alleen geld, maar ook stroom. Tools in AWS en Azure bieden tegenwoordig inzichtelijke CO2-dashboards, waarmee bedrijven exact kunnen zien welke applicaties of AI-workloads de hoogste footprint hebben.
Door workloads slim te plannen (bijvoorbeeld batch-verwerkingen en AI-trainingen in te plannen op momenten of locaties waar sprake is van een overschot aan zonne- en windenergie in het net), kunnen organisaties hun klimaatimpact drastisch reduceren zonder in te leveren op prestaties. De software engineer van de toekomst optimaliseert code niet alleen op snelheid en geheugengebruik, maar ook op CO2-uitstoot.
Lees meer over de integratie van efficiënte datacenter-technieken en duurzame IT via betrouwbare analyses op Computable.
