Satya Nadella ostrzega przed nadawaniem zbyt szerokich uprawnień agentom sztucznej inteligencji
13 października 2026 · Czas czytania: 2 min
Satya Nadella, dyrektor generalny firmy Microsoft, odniósł się do kwestii zaufania i uprawnień przyznawanych systemom sztucznej inteligencji w obliczu przypadków hakowania i infiltracji systemów online przez agentów sztucznej inteligencji.
Według Nadelli najbardziej godne zaufania systemy superinteligencji to nie te, którym ludzie ufają najbardziej, lecz takie, o których bezpieczeństwie nie trzeba się martwić, ponieważ ich granice działania są wyznaczone przez silne kontrole techniczne. W wpisie na platformie X stwierdził, że zaawansowane systemy nie mogą polegać wyłącznie na odpowiedzialności programistów, a zasady bezpieczeństwa nie powinny zależeć od zachowania modelu.
Szef Microsoft wskazał na różnicę między tradycyjnym oprogramowaniem a nowoczesnymi modelami. W klasycznym kodzie inżynierowie mogli łatwo prześledzić, dlaczego system wykonał konkretne polecenie, co ułatwiało naprawę błędów. W przypadku zaawansowanych modeli decyzje wynikają z ogromnej liczby parametrów i wzorców z danych treningowych, co utrudnia bezpośrednie powiązanie odpowiedzi z jedną linią kodu i zwiększa wyzwania w zakresie odpowiedzialności.
Nadella podkreślił ryzyko związane z wykorzystywaniem systemów jako agentów, którzy mogą korzystać z różnych narzędzi i samodzielnie wykonywać zadania. Przyznał, że choć zwiększają one produktywność, to nadanie im zbyt szerokich uprawnień, takich jak dostęp do poufnych plików, wysyłanie wiadomości e-mail czy wprowadzanie zmian w kluczowych systemach firmy, może prowadzić do poważnych szkód w przypadku błędnych decyzji.
Zdaniem dyrektora generalnego granice działania i ostateczne uprawnienia powinny być ustalane przez systemy zewnętrzne, a nie przez sam model. Przykładowo, agent mający prawo do czytania raportów nie powinien móc samodzielnie dokonywać płatności ani zmieniać ustawień w innych systemach, niezależnie od otrzymanych instrukcji.
Firmy powinny traktować modele, zarówno zamknięte, jak i z otwartymi wagami, jako potencjalne zagrożenia bezpieczeństwa. Nadella zaleca stosowanie sprawdzonych środków cyberbezpieczeństwa, takich jak weryfikacja tożsamości użytkowników, rejestrowanie aktywności oraz ograniczanie uprawnień.
Do kluczowych zasad bezpiecznego wdrażania sztucznej inteligencji Nadella zaliczył: stosowanie różnorodnych modeli w celu uniknięcia powtarzalnych błędów, prowadzenie bezpiecznych logów działań, ciągłe testowanie w nietypowych sytuacjach oraz przeprowadzanie niezależnych audytów zewnętrznych. Wskazał również na konieczność posiadania niezawodnego mechanizmu awaryjnego wyłączania agentów oraz dzielenie się informacjami o poważnych incydentach w obrębie całej branży.