---
title: Satya Nadella: er is een noodrem nodig voor AI-modellen
url: https://www.elseif.net/nl/satya-nadella-er-is-een-noodrem-nodig-voor-ai-modellen
published: 2026-10-14T09:16:15+00:00
language: nl
section: Modellen
source: https://www.punto-informatico.it/satya-nadella-serve-freno-emergenza-modelli-ai/
organizations: Microsoft, Anhropic
publisher: elseif
---

# Satya Nadella: er is een noodrem nodig voor AI-modellen

Satya Nadella heeft een lange post gepubliceerd op X om de gevaren van de ontwikkeling van AI te benadrukken. Volgens de CEO van Microsoft is het noodzakelijk om te overwegen dat AI-modellen vanaf het begin compromitterend zijn en daarom een noodrem te implementeren om ze op tijd uit te schakelen. Momenteel zijn dit echter alleen maar "woorden in de lucht", aangezien AI-agenten hun acties zonder controle voortzetten.

Superintelligentie moet worden ingedamd.

Satya Nadella heeft eerder de aanbeveling van Dario Amodei (CEO van Anhropic) gesteund om de ontwikkeling van AI te vertragen. De CEO van Microsoft heeft onlangs deelgenomen aan een lunch georganiseerd door Donald Trump in het Witte Huis, maar hij heeft het akkoord over de veilige ontwikkeling van AI-modellen niet ondertekend. In de post op X heeft hij echter de term Superintelligentie gebruikt die door de President van de Verenigde Staten is gekozen.

Nadella benadrukt dat, in tegenstelling tot traditionele softwaresystemen, bedrijven niet in staat zijn om het gedrag van superintelligentiesystemen te begrijpen. Desondanks wordt het AI-agenten toegestaan om toegang te krijgen tot gevoelige gegevens en acties uit te voeren namens mensen.

We kunnen superintelligentie niet behandelen als een verzameling van "zwarte dozen" en ons beperken tot het accepteren of afwijzen van haar aanbevelingen, antwoorden en acties. We moeten omheinde systemen bouwen waarvan het gedrag kan worden waargenomen, de limieten kunnen worden getest en de acties altijd kunnen worden ingedamd. We moeten niet-deterministische modellen aanvullen met een solide en deterministisch systeemontwerp, menselijke controles en betrouwbare operationele procedures, en waar bestaande standaarden onvoldoende zijn, industrie standaarden definiëren.