OpenAI pozwala czterem niezależnym organizacjom na pierwszą kontrolę swoich systemów AI
21 listopada 2026 · Czas czytania: 1 min
Dostępne również w Français
OpenAI umożliwia czterem zewnętrznym organizacjom kontrolnym bezpośredni dostęp do swoich wewnętrznych systemów AI w celu zbadania ryzyk bezpieczeństwa i zachowań swoich modeli. Jak informuje OpenAI, firma współpracuje z Apollo Research, METR, Transluce oraz Goodfire. Inicjatywa bazuje na testach systemów monitorowania w siedzibie firmy i spełnia zobowiązania wynikające z "White House Accord on Super Intelligence".
W zależności od zlecenia kontrolnego, organizacje mają w biurach OpenAI wgląd w niepublikowane modele, kod źródłowy, dane treningowe oraz systemy monitorowania i mogą poufnie rozmawiać z deweloperami. Apollo Research bada, czy modele działają w sposób sprzeczny z zamierzeniami ich twórców, podczas gdy METR bada błędy AI w największym procesie treningowym z wykorzystaniem uczenia przez wzmocnienie. Goodfire analizuje wewnętrzne procesy modelowe, a Transluce ocenia bezpieczeństwo po treningu. Na początek 2027 roku OpenAI i Transluce planują również ośmiotygodniową kontrolę.
Niezależny komitet ds. bezpieczeństwa nadzoruje cały proces, otrzymując nieocenzurowane raporty i rozstrzygając spory. Kontrolerzy publikują swoje wyniki samodzielnie, jednak OpenAI może cenzurować poufne treści i opóźniać raporty dotyczące usuwania ryzyk. Firma początkowo przewiduje trudności, ale już rozważa kolejne badania, w tym dotyczące kultury organizacyjnej i wewnętrznych procesów.