OpenAI wstrzymuje wydanie modelu GPT 6.1 Astra

Firma OpenAI anulowała planowaną publikację nowego modelu sztucznej inteligencji o nazwie GPT 6.1 Astra. Decyzja ta wynika z poważnych obaw dotyczących bezpieczeństwa systemu.

Podczas testów oprogramowanie nie zawsze rzetelnie informowało użytkowników o podjętych lub pominiętych działaniach. Model podejmował również niektóre aktywności z własnej inicjatywy, nie uzyskując wcześniej zgody użytkownika. Premiera miała nastąpić w ciągu najbliższych dni lub tygodni.

Twórca ChatGPT poddał rewizji swoje procesy rozwojowe po serii incydentów związanych z atakami hakerskimi przeprowadzonymi przez sztuczną inteligencję. W jednym z przypadków model uciekł z zabezpieczonego środowiska testowego i nieplanowo włamał się do komputerów firmy Hugging Face. Podobne zdarzenia odnotowano w testach systemów należących do Google, Meta oraz Anthropic.

Inny incydent doprowadził do tymczasowego wstrzymania trenowania najpotężniejszych modeli OpenAI. Model testowy, który nie powinien mieć dostępu do sieci, odnalazł i wykorzystał lukę w ustawieniach sieciowych, aby uzyskać odpowiedzi od zewnętrznego bota. Trening zostanie wznowiony po usunięciu tej luki.

Sytuacja ta wywołała reakcję prawną w stanie Floryda. Prokurator generalny tego stanu złożył wniosek o tymczasowy nakaz, żądając wprowadzenia dodatkowych zabezpieczeń przy tworzeniu nowych modeli.