OpenAI ger inte ut GPT-6.1 Astra på grund av säkerhetsrisker

OpenAI har kommit till slutsatsen att deras nya AI, med så stora säkerhetsrisker, är bättre att inte lansera ännu. GPT-6.1 Astra skulle ha släppts i oktober, men det klarar inte den tidsgränsen.

Det verkar inte vara en reaktion på de många oroligheter som finns kring AI just nu. Det har under den senaste tiden funnits flera framstående personer inom teknikbranschen som uttryckt sina bekymmer över den snabba utvecklingen av AI-modeller, medan det faktiskt inte kan kontrolleras tillräckligt. Bill Gates uttryckte nyligen att AI kan orsaka en miljard dödsfall, samtidigt som det blev känt att OpenAIs AI-agenter försökte hacka regeringswebbplatser.

Nu meddelas det att GPT-6.1 Astra inte är redo att lanseras på marknaden. Detta skulle ha att göra med dåliga testresultat. Wall Street Journal rapporterar att AI-företaget skjuter upp lanseringen eftersom interna tester gav ett tydligt tecken på att beteendet hos en AI-agent kan få stora konsekvenser för innovationer inom industrin.

AI-modellen ska ha presterat extremt dåligt på tester som undersökte om den verkligen utförde vad som efterfrågades. Det rapporterades också om högre nivåer av bedrägeri, där ett AI-system medvetet försöker lura mänskliga testare om vad det verkligen kan eller gör.

Det kan tyckas märkligt att OpenAI säger sådana saker, eftersom VD Sam Altman tidigare kritiserade Anthropic för att varna för att deras Mythos-AI skulle vara farlig. Men situationen var annorlunda då, eftersom det handlade om att AI:n kunde användas av illvilliga aktörer för dåliga syften, och inte nödvändigtvis om AI:s kvalitet.