Modeller

Kunstig intelligens dominerte Technology Live! i London

22. november 2026 · 2 min lesing

Også publisert på Italiano

a close up of a typewriter with a paper reading machine learning
Markus Winkler / Unsplash

Temaer knyttet til kunstig intelligens dominerte konferansen Technology Live!, som ble avholdt i London. Leverandører presenterte verktøy som er designet for å hente ut maksimalt potensial fra modeller for kunstig intelligens.

Det er reist spørsmål om grafikkprosessorer fra Nvidia utnyttes effektivt til tross for økende investeringer. Gareth Whiting, visepresident for salg i EMEA hos WEKA, forklarte at en betydelig del av arbeidet til grafikkprosessorer i inferensklynger går til spille fordi de beregner det samme gjentatte ganger. Dette skyldes at konteksten for kunstig intelligens-agenter vokser raskere enn HBM-minnet.

Det skilles mellom trening og inferens, hvor trening er en prosess med en definert start, slutt og budsjett preget av skrivebelastning og gjennomstrømming. Inferens er en kontinuerlig prosess hvor en trent modell opererer i praksis, og hvor verdien bestemmes av forsinkelser og antall samtidige brukere. Whiting påpekte at mens treg trening koster tid, fører treg inferens til tap av inntekter og kunder, og at inferens i dag er begrenset av minne snarere enn beregningskraft.

Bruken av kunstig intelligens-agenter øker belastningen sammenlignet med enkle chatboter, da agenter utfører oppgaver, bruker eksterne verktøy og leser hele arbeidsforløpet i hver runde. Data fra SemiAnalysis viser at typiske sesjoner for programmeringsagenter består av 6 runder og 90 000 tokens, mens de lengste 10 prosentene når 300 runder og 400 000 tokens. OpenRouter rapporterte at det ukentlige volumet av tokens økte 50 ganger fra i fjor til begynnelsen av november, fra omtrent 4 billioner til 210 billioner.

451 Research anslår at agenter vil generere 72 prosent av tokens i Nord-Amerika i 2028, opp fra 13 prosent i år. Utgifter til infrastruktur for inferens utgjorde 225 milliarder dollar i år, noe som tilsvarer omtrent en tredjedel av totalen. Dette beløpet forventes å øke omtrent tre ganger til 746 milliarder dollar innen 2030.

Utviklingen av kunstig intelligens bremses nå av strøm, minne og plass i rackskap. Datasentres andel av energiforbruket i USA var omtrent 4,5 prosent i 2023, og prognoser tyder på at dette vil nå 7 til 12 prosent i årene som kommer.

WEKA har introdusert NeuralMesh som en løsning på utfordringer med lagring. Dette er en programvarebasert, distribuert lagringsplattform for miljøer innen kunstig intelligens og HPC som forener ressurser fra flere servere og NVMe-medier i ett parallelt filsystem. Systemet fjerner behovet for kontrollere eller egne metadataservere og fordeler data automatisk for å unngå flaskehalser. Ytelsen økes ved å legge til flere noder.