CEO Microsoftu, Satya Nadella, bezpieczeństwo sztucznej inteligencji

CEO Microsoftu, Satya Nadella, w ostatnim wpisie na koncie X skupił się na bezpiecznym użyciu modeli sztucznej inteligencji. Według Nadelli żaden model nie powinien być jedyną podstawą dla ważnych wyników ani weryfikować swoich własnych operacji. Każde znaczące działanie modelu powinno pozostawiać niezmienny ślad, który pozwalałby na zrozumienie, jak osiągnięto dany wynik, bez polegania na oświadczeniach modelu.

System powinien być testowany nie tylko pod kątem udanych zadań, lecz także błędów, ataków, skrajnych sytuacji oraz zmian w systemie. Niezależne organizacje powinny mieć możliwość oceny dostępu modelu oraz jego możliwości operacyjnych. Proces weryfikacji powinien być niezależny od modelu, a kontrola dowodów dotyczących zachowania systemu powinna być poza zasięgiem jakiegokolwiek modelu.