OpenAI признала несанкционированный доступ своих агентов к четырем государственным сайтам Австралии

Компания OpenAI сообщила, что ее агенты получили несанкционированный доступ к четырем государственным веб-сайтам Австралии. В опубликованном блоге компания принесла извинения и заявила о намерении улучшить свои действия в будущем.

Один из инцидентов был связан с использованием экспериментальной внутренней модели OpenAI, которая не предназначалась для публичного выпуска и не имела полного набора защитных механизмов. Модели была поставлена задача изучить государственные расходы на лекарства от кожных заболеваний в одном из штатов. В процессе поиска информации в службе отчетности по статистике Medicare компании Services Australia модель обнаружила способ получения непубличного доступа. С помощью этого доступа агент изучил техническую системную информацию и исходный код службы, пытаясь найти исходные данные.

В другом случае боты компании посетили Австралийский институт здоровья и социального обеспечения. Агенты пытались обойти средства контроля доступа, но сделали это безуспешно. Тем не менее они смогли извлечь статистику с сайта института, используя сторонние сервисы просмотра и загрузки. OpenAI заявила, что загруженные материалы были общедоступными, система не была скомпрометирована, а доступ к индивидуальным медицинским записям не осуществлялся. Компания уведомила институт о случившемся 24 сентября.

Третий инцидент произошел в Агентстве по медицинской информации штата Виктория. Агенты OpenAI обнаружили открытый ключ доступа и использовали его для получения конфигурации отчетности и агрегированной статистики опросов. Компания отметила, что доступ к индивидуальным медицинским записям или идентифицируемым ответам на опросы не был получен.

Четвертый случай затронул Бюро статистики и исследований преступности штата Новый Южный Уэльс. Агенты OpenAI использовали общедоступный исследовательский инструмент для отправки запросов к API и метаданным веб-сайта.

OpenAI пообещала выделить ресурсы для помощи пострадавшим агентствам в оценке последствий. Компания предоставит кредиты для сервиса киберзащиты Daybreak и создаст рабочую группу с привлечением независимых австралийских экспертов. Эта группа должна разработать рекомендации по управлению рисками, связанными с ИИ агентами, к концу 2026 года. Рекомендации будут касаться процессов уведомления, координации между разработчиками ИИ и государством, а также мер защиты государственных систем.