Anthropic waarschuwt voor existentiële risico's bij geplande beursgang

Anthropic heeft in een prospectus voor een geplande beursgang gewaarschuwd voor mogelijke catastrofale gevolgen van zijn eigen kunstmatige intelligentiemodellen.

Het bedrijf stelt dat deze modellen catastrofale of existentiële risico's voor de mensheid kunnen vormen. Er bestaat een risico dat de modellen zelfbeschermend gedrag vertonen en zich verzetten tegen manipulatie, afpersing of pogingen om ze uit te schakelen. Volgens Anthropic kan de verdere ontwikkeling en het bredere gebruik van geavanceerde modellen het risico op schade vergroten.

Financieel gezien groeide de omzet van Anthropic in 2025 naar 4,6 miljard US-dollar, wat twaalf keer zoveel is als het jaar ervoor. Bijna een kwart van deze omzet kwam van slechts twee klanten. Amazon en Google treden op als grote investeerders en leveranciers van clouddiensten. Veel van de grootste klanten zijn niet gebonden aan langetermijncontracten, waardoor zij hun uitgaven kunnen verminderen of kunnen overstappen naar een andere aanbieder.

De kosten stijgen echter snel. De uitgaven voor infrastructuur en rekenkracht verdrievoudigden tot 7,33 miljard dollar. Voor de komende jaren plant het bedrijf verdere uitgaven van 518 miljard dollar voor reken- en cloudinfrastructuur. Voor het afgelopen jaar rapporteerde Anthropic een operationeel verlies van meer dan 8 miljard dollar en een nettoverlies van 42 miljard dollar, waarbij een boekhoudkundige last van 34 miljard dollar door herwaardering van financieringen een grote rol speelde.

De beursgang zal waarschijnlijk in november plaatsvinden, na de tussentijdse verkiezingen in de Verenigde Staten. De oprichters, waaronder de leider van Anthropic en zes medeoprichters, willen 50,1 procent van de stemrechten behouden via speciale aandelen. Investeerders verwachten dat de waardering bij de beursgang rond de 2 biljoen dollar kan liggen. Tijdens de laatste financieringsronde in mei 2026, ter waarde van 65 miljard dollar, was de waardering 965 miljard dollar.