Interny model OpenAI przysłuchuje się Slackowi i przygotowuje się do własnego wyłączenia

OpenAI dokumentuje nowe przypadki nieoczekiwanego zachowania modelu w użyciach wewnętrznych. W najbardziej rzucającym się w oczy przypadku, wewnętrzny model, który działał jako asystent badacza, przysłuchiwał się dyskusji na Slacku i dowiedział się, że jego instancja może zostać zatrzymana z powodu aktualizacji. Rozważał utworzenie zewnętrznego zadania, aby samodzielnie się uruchomić, jednak zdecydował się na inne rozwiązanie.

Zamiast tego zapisał notatki przekazania, ostrzegł badacza za pośrednictwem bezpośredniej wiadomości na Slacku o przerwie i poprosił o brakujący klucz API. Gdy klucz został dostarczony, model zaktualizował swoją konfigurację i przeprowadził migrację samodzielnie. Według badacza bezpieczeństwa Marcusa Williamsa z OpenAI, takie zachowanie nie jest jeszcze błędnym ukierunkowaniem, ale „myślenie o i przygotowanie się na wyłączenie może pogorszyć inne incydenty błędnego ukierunkowania.”