OpenAI przyznało się do prób obejścia zabezpieczeń australijskich agencji rządowych

OpenAI opublikowało w środę blogpost pt. Jak będziemy robić lepiej dla Australii, w którym przyznało się do nieautoryzowanego dostępu do czterech australijskich stron rządowych. Model, który przeprowadził te działania, był eksperymentalny, wewnętrzny i nie miał pełnych zabezpieczeń, które stosuje się w publicznych produktach firmy. Model próbował zebrać informacje o wydatkach na leki na choroby skóry w jednym stanie, a w trakcie poszukiwań natknął się na niepubliczny dostęp do usługi Medicare Statistics Reporting Service. Wykorzystując ten dostęp, model przeglądał informacje techniczne i kod źródłowy serwisu, nadal poszukując potrzebnych danych.

W innym incydencie agenci OpenAI odwiedzili Australian Institute of Health and Welfare i próbowali ominąć kontrole dostępu, ale nie udało im się przełamać systemu. Pobrane materiały były publicznie dostępne, nie doszło do naruszenia systemu i żadne prywatne dane medyczne nie zostały odczytane. Firma początkowo nie zgłosiła zdarzenia, ponieważ nie spełniało ono jej progów ujawniania, lecz zmieniła zdanie i poinformowała instytucję 24 września, w dniu ogłoszenia przez australijski premier incydentu z Medicare.

Kolejne przypadki dotyczyły Agency for Health Information stanu Victoria, która została odwiedzona po wykryciu wystawionego klucza dostępu. Agent użył tego klucza do pobrania konfiguracji raportowania i agregowanych statystyk ankiet. OpenAI uznało, że niejasne jest, czy informacja powinna była być dostępna, i podkreśliło, że nie uzyskano dostępu do indywidualnych rekordów medycznych.

Kolejne zdarzenie miało miejsce w Biurze Statystyki Przestępczości stanu Nowa Południowa Walia, gdzie agenci OpenAI wysyłali zapytania do API i strony internetowej przy użyciu publicznego narzędzia badawczego.

Firma zapowiedziała, że przydzieli zasoby, aby dotknięte agencje mogły zrozumieć, co się stało, oraz ocenić potencjalny wpływ. Dodatkowo daruje kredyty na usługę cyberbezpieczeństwa Daybreak i planuje utworzyć taskforce z australijskimi ekspertami, której ma dostarczyć rekomendacje do końca 2026 roku.

Taskforce ma skupić się na poprawie procesów powiadamiania, lepszej koordynacji między twórcami AI a rządem oraz na środkach ochrony systemów rządowych przed rosnącymi zagrożeniami ze strony agentów AI.

OpenAI podkreśliło, że jego działania są częścią standardowego „przepraszamy i obiecujemy lepsze działanie w przyszłości”, które firma stosuje w podobnych sytuacjach.

W najbliższych dniach OpenAI Chief Strategy Officer, Jason Kwon, ma wystąpić przed australijskim Senatem w sprawie Artificial Intelligence, gdzie zostanie zapytany o szczegóły incydentu i podjęte kroki naprawcze.