Maia 300: nieuwe chip van Microsoft belooft meer IA zonder meer energie te verbruiken

Microsoft heeft op maandag 12 oktober zijn nieuwe IA-chip voor servers onthuld. Bekend als de Maia 300, verwerkt het component 40% meer tokens per megawatt dan infrastructuren gebaseerd op GPU's, wat het mogelijk maakt om meer IA-vragen te beantwoorden met dezelfde elektrische capaciteit. Deze innovatie volgt op de Maia 200, gepresenteerd in januari 2026, die de werkbelasting van Microsoft 365 Copilot en het team verantwoordelijk voor de IA-modellen van het bedrijf ondersteunt. Met de update is de chip gericht op inferentieprocessen, waarbij een al getraind model informatie ontvangt en antwoorden produceert. De focus ligt op uitgebreide gesprekken, taken die redeneervaardigheden vereisen en agents die meerdere acties achtereenvolgens kunnen uitvoeren.

Wat verandert er met de Maia 300? Een van de belangrijkste wijzigingen is de organisatie van de componenten. De Maia 300 maakt gebruik van kleine gespecialiseerde blokken die zijn vervaardigd volgens het N2P-proces van TSMC, genaamd chiplets, die functies zoals berekeningen, geheugenbeheer en communicatie scheiden. De architectuur is ook ontworpen om gegevens dicht bij de plaats van gebruik te houden. Deze techniek verkort de afstand die de informatie moet afleggen, wat de energie vermindert die nodig is om deze binnen het systeem te verplaatsen. Elke accelerator heeft 288 GB HBM4-geheugen, met een overdrachtssnelheid van tot 18 TB per seconde.