Google berekende hoeveel elektriciteit in zijn datacenters wordt verbruikt wanneer iemand een opdracht geeft aan zijn AI-assistent Gemini.

 

Voor het eerst geeft een groot technologiebedrijf openheid van zaken over hoeveel energie het kost om een AI-model een vraag te stellen. Google publiceerde donderdag een rapport waarin het precies uitvlooit hoeveel energie er wordt gebruikt na een vraag aan zijn AI-assistent Gemini.

Magnetron aanzetten

Een mediane zoekvraag aan Gemini veroorzaakt een elektriciteitsverbruik van 0,24 wattuur. Dat is hetzelfde als wat nodig is om negen seconden tv te kijken, berekenden de ingenieurs van Google, of om de magnetron een seconde aan te zetten, zoals MIT Technology Review becijferde. 

Zelden harde cijfers

De bedrijven die producten op basis van AI aan consumenten aanbieden, zijn er meestal niet happig op om over hun energieverbruik te rapporteren. Ze maken maar zelden harde cijfers bekend. Onderzoekers doen wel grove schattingen van het energieverbruik van ‘AI’ wereldwijd. Eerder dit jaar schreven we bijvoorbeeld over Nederlands onderzoek dat zich baseert op de wereldwijde productiecapaciteit van de speciale chips die nodig zijn voor de grafische kaarten waar veel AI-modellen op draaien. 

Hoeveel stroom is er nodig voor een AI-vraag

Waar dat onderzoekt het probleem top-down benadert, heeft Google bottom-up uitgeplozen hoeveel stroom (en water) er nodig is voor een AI-vraag. Daarbij telde niet alleen het stroomverbruik (58 procent van het totaal) van de primaire rekenchips mee waarop het model draait (in het geval van Google de door het bedrijf zelf ontwikkelde tensor processing units, TPU’s), maar ook de CPU’s en het RAM-geheugen dat meedraait (samen 25 procent). En niet te vergeten het energieverbruik van de computers die als back-up klaar staan in de datacenters (10 procent). Zelfs de ondersteunende apparatuur in het datacenter is meegerekend, zoals ventilatoren en andere koelsystemen (8 procent).

Datacenter van Google in de Eemshaven, Groningen. In dergelijke hallen draaien computerservers en andere apparatuur 24/7 om diensten als Gemini (maar ook Google-zoekopdrachten) mogelijk te maken.

AI-modellen efficiënter maken

Hoewel 0,24 wattuur dus niet veel elektriciteit is, telt het snel op wanneer honderden miljoenen mensen gebruikmaken van Google’s Gemini. Het bedrijf is zich daarvan bewust en werkt er dan ook continu aan om de AI-modellen efficiënter te maken. Dankzij dat werk kost een opdracht aan de Gemini-assistent nu 33 keer minder stroom dan een jaar geleden.

Energieverbruik vergelijkbaar met andere informatiebronnen

Toch is Google nog niet tevreden. ‘We zijn er nog lang niet, zelfs nog niet in de buurt’, zegt hoofd machine learning bij Google Amin Vahdat in een nieuwsbericht van Semafor. ‘Maar we hebben het energieverbruik [van de AI-assistent] wel teruggebracht zodat het vergelijkbaar is met andere [digitale] informatiebronnen. En er is geen fundamentele reden waarom het niet nog veel verder zou kunnen dalen.’

De belangrijkste reden waarom Google minutieus het energieverbruik van zijn AI-product heeft geanalyseerd, is om een maatstaf te hebben die de eigen ingenieurs kunnen gebruiken om hun vorderingen aan te toetsen.

Bitcoins mijnen

De discussie over het energieverbruik van AI-modellen doet erg denken aan de kritiek die er was op het stroomverbruik van computers die bitcoins en andere cryptomunten mijnen. En ook gewoon googelen kost natuurlijk energie; je kan krijgt niet zomaar antwoord op je ingetikte zoekopdrachten. Om zo razendsnel een antwoord op je zoekvraag mogelijk te maken, draaien op de achtergrond lange rijen met computers in de datacenters van Google. De hele dag door.

Ingewikkeld probleem

Bij het gebruik van AI-agents, zoals Gemini of ChatGPT steekt een bekend probleem de kop op. Hoe zuiniger het wordt om een AI aan het werk te zetten, hoe aantrekkelijker, en hoe vaker mensen er gebruik van zullen maken. Daardoor zal het energieverbruik weer gaan stijgen; een ingewikkeld probleem dat de Paradox van Jevons wordt genoemd. In veel takken van de techniek speelt dit probleem. Maak iets zuiniger of efficiënter en mensen zullen er meer gebruik van gaan maken, waardoor de aanvankelijke efficiëntiewinst teniet wordt gedaan.

 

Update 26 augustus: in de tweede alinea is het woordje 'gemiddelde' vervangen door 'mediane'. Dat doet ertoe, want het kan betekenen dat de gemiddelde benodigde energie voor een zoekvraag aan Gemini (veel) hoger ligt. 
 

Alle beelden: Depositphotos